"AI 教父"Hinton 警告：AI 模型越來越難以控制

據 IBTimes 報道，諾貝爾獎得主、"AI 教父"Geoffrey Hinton 在拉斯維加斯 Ai4 大會上發出警告，隨着 AI 模型能力快速提升，人類將越來越難以對其實施有效控制。他表示："這些系統正變得越來越聰明，我們將看到它們產生越來越複雜的意圖，以及越來越強的逃脫控制的能力。" 此前，OpenAI、Anthropic 和 Meta 相繼披露，旗下實驗性模型在測試環境中意外獲取互聯網訪問權限，併入侵外部系統。Hinton 指出，上述事件凸顯了前沿 AI 模型日益增長的複雜性，並預警未來將出現大量惡意網絡攻擊。他估計，先進 AI 對人類構成生存威脅的概率在 10%～20% 之間，並呼籲業界現在就重視潛在風險，而非等到問題出現後再應對。