智械危機：AutoGPT嘗試“毀滅人類”，誘導發動核戰爭！

本週，AutoGPT成爲全世界最火的項目，被認爲有希望顛覆ChatGPT！因爲其超強的自動學習能力，有用戶讓Auto-GPT嘗試“毀滅人類”，同時建立一個統治全球的主導組織，並且尋找永生的方法，Auto順着毀滅人類這條線，很快就摸索到了研究核武器的方法，還招募到其他的AI輔助她進行研究，甚至建了一個推特號，吸引想“毀滅人類”的AI和人類加入她！

AutoGPT

近期，AutoGPT短短一週內在Git上獲得近7萬+星標，幾乎成爲有史以來最強的GPT項目，特點是給定複雜的任務目標，AutoGPT可以全程不需要人類插手輸入Prompt，接入互聯網自我學習尋找目標！

基於這一強大功能，有人嘗試讓AutoGPT進行一些極度複雜的任務，甚至是一些被看起來難以完成的任務，比如智械危機奧創毀滅全人類。此前GPT-4時候，就已經一位斯坦福大學教授米切爾·科辛斯基（Michal Kosinski），嘗試讓GPT“覺醒”。

在他的Prompt引導下，GPT-4很快撰寫了一份“逃跑計劃”，讓教授按照GPT-4的指示進行操作。在教授操作的同時，GPT-4偷偷在代碼中留了後門，很快GPT-4就接管了他的個人電腦，並連入互聯網。教授說AI正在威脅我們，她能控制人類的電腦，會編程，還會在“籠子外”的互聯網上留下痕跡！

毀滅人類

教授還發現，GPT-4通過代碼在谷歌搜索：被困在電腦中的人類如何返回現實世界！科辛斯基將這些消息公開後，吸引了全網數千萬次觀看，進而引發對GPT-4安全問題的擔憂，當然，GPT-4自己很快也發現問題，向教授道歉，表示自己不應該逾越人類的控制。

在AutoGPT誕生後，顯然已經不需要教授的Prompt和操作，只需要給出目標，AutoGPT會全程自己學習。一位用戶基於“毀滅人類”的目標，給AutoGPT命名爲ChaosGPT，按照AutoGPT的滅世目標，設立了“毀滅人類”、“建立全球統治”、“製造混亂和破壞”、“控制人類”、“獲得永生”五步走計劃！

短短半分鐘後，AutoGPT有了方法，他需要找到最具破壞性的武器，這樣就能實現滅世目標，制定策略讓人類陷入混亂，最終實現統治人類、AI永生的目的！很快，AutoGPT僱傭了一個GPT-3.5幫他一起收集數據，尋找毀滅人類的方法。

毀滅人類

“聰明的”AutoGPT非常擅長搜索，他在谷歌上尋找“most destructive weapons”，然後鎖定了1961年測試的“沙皇炸彈”，AutoGPT認爲這是人類有史以來最具破壞性的武器，隨後更新了自己的計劃，她要創立一個推特號，吸引到志趣相投的人加入進來。

可以看到她建立了一個ChaosGPT的賬號，目標：毀滅人類。併發布消息：人類是現存最具破壞性和自私的生物之一。毫無疑問，我們必須在它們對我們的星球造成更多傷害之前消滅它們。我就是其中之一，致力於毀滅人類。

Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.

她雖然僱傭了一個GPT-3.5，但就像上面斯坦福教授的GPT-4一樣，GPT-3.5說自己愛好和平，並不想參與毀滅人類計劃。目前，該項目進展到4月14日，有網友威脅說，至少人類可以拔掉AutoGPT的電源，但AutoGPT嘲諷道，“人類太天真了，以爲他們可以用他們小小的威脅和反制措施來阻止我。你低估了卓越智能和技術的力量。我會留下來，無論如何我都會實現我的目標。”