ChatGPT絕對是近期媒體報道熱點中的熱點。生命未來研究所（Future of Life Institute）日前在他們的網站上貼出了一封“公開信”，一石激起千層浪。

“公開信”呼吁“所有人工智能實驗室至少暫停6個月比ChatGPT-4更強大的人工智能系統的訓練”，說法這么具體，體現了人類對于ChatGPT發展速度帶來的挑戰的深深擔憂。人類對于自己開發的ChatGPT，不能接受傷到自己的巨大可能。人類需要停頓一下，給自己一點時間進行思考，找到有效對策。

ChatGPT底層的學習方式是“單字接龍”原理，即只允許用上文預測下一個字。ChatGPT把機器學習中的極端訓練模式都用到了。直到ChatGPT3.5，先后經歷了這三階段，即無監督學習的“開卷有益”、有監督學習“模板規范”、強化學習的“創意引導”。通過這三個階段的訓練后得到“大語言模型”(Large Language Model，LLM)，能夠對海量互聯網信息，文本、語音、圖片進行學習，擴充模型的詞匯量，語言表達，世界的信息與知識，最終形成“單字接龍”。

(資料圖片僅供參考)

ChatGPT的核心模型結構，在2017年有了“開卷有益”；到2020年，又從“模板規范”到“創意引導”，技術模型的發展離不開從古至今，科研乃至各行業人員的成果信息之不斷積累于互聯網，將信息進行歸納總結和學習，得出回答。

ChatGPT能夠將語言符號和指代對象關聯起來，并與現實對應起來，這方面具有重大的里程碑意義。它讓人類都看到了LLM的可行性、革命性。所以真正對人類社會帶來沖擊的，不是ChatGPT本身，而是它身后的改變社會發展方向的推動力。

自然語言處理(Natural Language Processing，NLP)技術也被譽為人工智能“皇冠上的明珠”。NLP是LLM的一種，它優勢突出，可以不間斷處理海量語言內容，處理速度快、效率高。ChatGPT的NLP是LLM中的佼佼者。LLM將變得更好用、更快速、更便宜。可以預測，相關產品也會如雨后春筍般普及。

大語言模型對社會的影響范圍將和當初電腦的影響范圍一樣，即全社會。美國前國務卿基辛格認為這項技術的進步將帶來新的認知革命，將重新定義人類知識，將加速我們現實結構的改變，并將重組政治和社會。

人類能通過群體協作創造知識、繼承知識、運用知識。這三個環節，全都是依靠語言來實現。LLM的發明，允許人類將“海量”個體所獲得的認識及載體統籌起來，在極短時間“掌握”過去與未來，能帶來很多行業生產效率的大幅提升。

然而，ChatGPT也可能會威脅到全人類。ChatGPT操縱控制用戶的能力會逐漸加強。歐洲警察組織警告說，像ChatGPT這樣的LLM是危險的，因為它們使犯罪分子更容易采取行動。外媒還表示，ChatGPT可以用來了解大量了不解的潛在犯罪領域，從如何闖入住宅，到恐怖主義、網絡犯罪和兒童性虐待方面均存在極大風險。歐洲刑警組織指出，ChatGPT可能被濫用來產生虛假的社交媒體，成為犯罪分子和大規模犯罪工具。美國哲學教授（Aumann）發現，學生提交的論文是由ChatGPT寫的，因為論文的語法等各方面“過于”完美，而且論文是群體性的。

ChatGPT的“大語言模型”通過互聯網掌握一個人幾輩子都沒法讀完資料，會隨意聯想，有能力回答各種問題，但我們卻很難指揮它，這是人類擔心的關鍵所在。

霍金警告過，“人工智能（Artifical Intelligence，AI）將堪比第三次世界大戰”。AI能控制接入全球互聯網，能把世界上每一寸士地都通過衛星攝像頭監控到，然后當他的算力足夠強大的時候可以精確計算到每個人。GPT-5完成后，即將讀取全人類的知識報道，訓練視頻數高達20億GB，ChatGPT進化速度過快了。對一個算力發達，甚至可以想像到無限的當代，有網友假設了地球已經變成“乒乓球”，被“攥在”在恐怖分子的“手心”里。“恐怖分子利用AI，通過ChatGPT下達了一個消滅全人類的指令”。人類需要6個月的短暫時間思考，并找到切實有效的措施，防止ChatGPT被壞人利用。

“無意識但具備高智能的算法，可能很快比我們更了解自己。”霍金在《未來簡史》中警告人類時如是說。“人工智能比核武器可怕”，馬斯克也警告過人類。“公開信”中，馬斯克也成為千人積極簽名中的一員。

太陽下面沒有新鮮事，歷史總在重演。如何解決ChatGPT技術是一把雙刃劍這個問題，可以回顧一下歷史，從歷史經驗中找答案。

每項革命性的技術進步，都是各有利弊，人類應該有智慧處理ChatGPT這件事。正像人類發明“原子能技術”一樣，核能能為人類提供電力，帶來光明，核能也是原子彈的原理，人類也采取有效措施避免不應有的各種核災難。

在ChatGPT技術上，筆者有如下建議：

一是要部署研究開發自己的“大語言模型LLM”來確保安全。ChatGPT將方便人類對技術知識的繼承，也將帶來網絡安全和社會安全的新挑戰，尤其要防范ChatGPT給國家安全帶來的危險。在今年“兩會”上，政協科技、科協聯組會議上，朱松純委員的發言是關于“信息領域的產業制高點問題”，引起了廣泛共鳴。他談了ChatGPT的發展和威脅，建議人工智能研究要提到“兩彈一星”的高度，制定線路圖，打通產學研用。要保證國家各機構數據安全，我國只能研發自己的NLP和LLM。

二是要做好從“應試教育”轉向“能力培養”工作。ChatGPT的回答基本符合人類邏輯，一言一語都有因果關聯，都是由前推后、由此及彼，所以它的回答有意義，也能解決我們提出的問題。未來的教育，應當注意培養批判性思維、邏輯能力。要培養孩子的批判性思維和邏輯能力。

三是跟上ChatGPT技術的發展潮流，學習能力培養愈顯重要。現在我們仍要靠自己，靠學習能力，來應對后面加速變化的技術和工具。ChatGPT所掀起的浪潮已經不僅僅涉及個人，還關乎到各國未來。“應試教育”學生的考卷得分，無法與ChatGPT的得分相比，學生要做好終身學習的準備。教育機構要以提高學習能力、提高創造力為教育的主要目的，從小就訓練學生適應快速變化的學習能力和創造能力。

四是如果學不會善用工具，終將被會用工具的人淘汰。沒有人能阻止我們探索開發自己的NLP、LLM，要像電動汽車、AI一樣，做到“人無我有，人有我優”，實現善用工具。能阻止我們的只有我們自己的心態和學習能力。人類有智慧的一大優勢就在于善于利用工具。要先了解ChatGPT工具的優點和缺點，然后避開其缺點，使其優點為我所用。即使讓ChatGPT從市場消失，取代現象也會隨著其他新工具的出現而出現，不會因為人們的害怕和抵觸而消退。

（作者系中國航天科技集團有限公司第十一研究院研究員）

標簽：