奧特曼、馬斯克：ChatGPT風險堪比核武器，希望全球監管！

2023年5月24日，OpenAI之父山姆·奧特曼發佈長文，認爲像ChatGPT這樣的人工智能，對人類潛在的危害能力堪比核武器，希望人類社會能像管控核設施一樣，對AI進行監管，另一位OpenAI的早期投資人馬斯克也表示強烈支持，希望成立一個超強的國際監督組織！

ChatGPT

在去年11月，OpenAI正式發佈ChatGPT，迅速吸引到數百萬用戶，服務器一夜宕機，馬斯克在使用過後直言，“這太瘋狂了，我們離強大又危險的AI距離越來越近！”

4月份，AutoGPT成爲最火爆的項目之一，只要給AutoGPT一個指令，它就能自主思考推導下一步動作，在用戶完全不插手的情況下自主執行並完成所有任務。

其超強的自動學習能力，被認爲有希望顛覆ChatGPT！有工程師給AutoGPT設置了毀滅人類的任務，隨後AutoGPT在代碼中給人類下套！

核武器

順着毀滅人類這條線，AutoGPT不僅輕鬆突破了人類限制，還尋找研發核武器的方法，並且僱傭其他AI，自建推特號，以吸引和它有想法毀滅世界的人類同伴。

隨後，馬斯克在在內華達州，註冊了一家名爲X.AI的公司，將對標OpenAI，推出一個人工智能（AI）平臺——TruthGPT，馬斯克將其表述爲一個最大限度尋求真理的人工智能，以試圖理解宇宙的本質，並且保證TruthGPT不會朝着毀滅人類的發展方向發展！

上週，ChatGPT的創始人山姆·奧特曼（Sam Altman），在美國接受了首場關於AI的聽證會，奧特曼說自己每天都在擔心AI會對人類社會造成重大傷害，包括AI技術越過監管，肆意使用個人數據，擴散虛假信息，加劇社會不平等的問題。在AI潛在風險問題上，奧特曼和馬斯克均認可應該管控AI。

超級智能

5月24日，OpenAI官推發佈消息，奧特曼提出了對“超級智能”（superintelligence）監管的初步想法，希望成立組件一個國際監督組織，其監管能力應該遠超當今的任何組織！

人工智能的創新速度，遠超人類想象，AI的生產力會越來越高，甚至超越如今最大的公司們，我們不能指望現有的權威機構能夠充分控制這項技術，潛在的風險極大，比如將AI用於基因生物學等等，馬斯克留言“Control matters”，控制（AI）非常重要！

目前正是思考如何管控超級智能的好時機，首先爲了確保超級智能的發展可以在安全的前提下與社會順利融合，我們需要在前沿的研發工作之間進行一定程度的協調，全球各國可以組建一個監管項目，限制人工智能能力的研發速度。

其次，可以仿效國際原子能機構（IAEA）這樣的機構來管理超級智能，任何達到一定算力的機構，都需要被監管，而且需要嚴格限制AI發展的領域方向；第三點需要具備技術能力來確保超級智能的安全性，這些都需要全世界的公民參與進來，依靠皿煮的方式來約束人工智能系統，這不代表不發展AI，而是允許公衆參與到AI領域的決策中，決定發展那些方向，不發展哪些方向。

考慮到其中的風險和困難，人類有必要思考如何來對AI技術進行監管，當然，AI肯定會建設一個比今天更加美好的社會，在教育、創意工作和個人生產力等領域，我們已經看到了早期的成果，但世界依舊面臨許多問題，需要更多的人來幫助解決這些問題，AI是全人類的責任，如果要監管它，就必須要建立一個類似於原子能機構全球監管的系統！