人工智能之父、奧特曼嚴肅警告——AI未來將滅絕人類！

2023年6月1日，一封超過300位大佬聯名的公開信，迅速引爆網絡，由ChatGPT之父山姆·奧特曼，以及人工智能之父、圖靈獎得主Bengio和Hinton領銜，信中核心內容僅有一句話——人類需要降低AI的風險，否則人工智能就會像核戰爭一樣，危害全人類！除OpenAI外，三大AI巨頭中Deepmind和Claude的CEO也簽署了聯名信，中國清華大學AIR院長張亞勤和斯坦福大學教授、圖靈獎得主馬丁·赫爾曼也在倡議名單中！

奧特曼&Hinton

ChatGPT

伴隨着ChatGPT的爆火，以及GPT-4展現出的強大能力，包括國家、學術平臺、科技公司等機構，都在擔心AI的無序發展，會讓人類社會出現不可控的風險。

最早展開行動的是意大利、法國和西班牙等歐洲國家，他們在4月先後對OpenAI發出禁令，認爲GPT正在大量竊取用戶的隱私數據，並且對青少年信息缺乏保護措施。

在AI未來的發展方向上面，像ChaosGPT這樣的創新，雖然超強的自我學習能力讓很多人看到了應用方向，但是依然引起了大量科技界人士的擔憂，即使沒有壞人來操縱使用AI，一次誤操作，也有可能讓人工智能自己突破人類限制，然後聯網幹一些不受人類控制的事情。

毀滅人類

此前馬斯克帶頭簽署千人聯名信，緊急呼籲 AI 實驗室立即暫停研究，認爲AI的進步速度實在過於驚人，不過馬斯克自己還推出一個人工智能（AI）平臺——TruthGPT，稱這是一個最大限度尋求真理的人工智能，以試圖理解宇宙的本質，未來不會毀滅人類。

有人捏造說AI三巨頭之一的Yann Lecun也簽署了這份公開信，Lecun闢謠說自己並未簽署信件，不過另外兩大AI巨頭Bengio和Hinton，則是在近日聯合諸多知名人工智能專家，發佈了一份人工智能風險聲明。

該聲明僅有非常簡短的一句話，我們應該減輕AI滅絕人類的風險，未來人工智能會與流行病和核戰爭等其他社會大範圍規模的風險一樣，成爲全球首要優先考慮的問題。

公開信

公開信簽署名單堪稱豪華，多倫多大學和Geoffrey Hinton和蒙特利爾大學的Yoshua Bengio領銜，Bengio對RNN語言模型和GAN生成對抗模型做出傑出貢獻，Hinton將反向傳播（Back propagation）引入了多層神經網絡的訓練中，二人與Hinton的學生Lecun並稱爲“深度學習三巨頭”，於19年獲得圖靈獎。

Lecun本人今年4月從谷歌辭職，也是一直在公開場域表達對人工智能失控的擔憂。公開信還包括三大AI公司CEO的簽名，Deepmind的Demis Hassabis、Anthropic的Dario Amodei以及OpenAI的奧特曼！三位也是老熟人了，哈薩比斯領導Deepmind曾推出AlphaGo，哈薩比斯本人被稱爲“AlphaGo之父”，暴打李世石、柯潔等職業圍棋選手。

哈薩比斯、柯潔

Dario Amodei曾是OpenAI的研發總監，推出GPT，後離職創業開發了Claude，被譽爲最接近ChatGPT的大語言模型！這份公開信簽署名單可謂重量級，還包括清華大學智能科學講席教授、中國工程院外籍院士張亞勤，加州伯克利分校教授“計算機安全教母”宋曉東，OpenAI首席科學家、AlexNet&Tensorflow的發明者llya Sutskever等。