Dragonfly合夥人:只要AI仍存“滅絕風險”就不應貿然加速
來源:
x.com
Dragonfly 管理合夥人 Haseeb 在 X 平臺表示,自己曾是一名職業”賭徒“,核心理念是絕不能觸碰“風險毀滅”(risk of ruin),即始終爲重建和應對最壞情況保留籌碼。同樣地,AI 風險或許並沒有想象中嚴重,也可能很容易解決,但只要仍存在合理可能性,就不應在沒有充分確認之前冒險。Haseeb 稱,若有人認爲 AI 導致人類滅絕的概率爲 10%,實際上意味着其認爲 90%的情況下不會發生嚴重後果,但人類無法判斷自己究竟處於哪種情況。因此,在能夠確認滅絕風險已經消除之前,人類不應主動承擔這一風險。