超級智能AI恐將滅絕人類？AI專家支持控管

 

 一封新的公開信呼籲監管AI技術，OpenAI及Google DeepMind等AI巨頭的CEO Sam Altman、Demis Hassabis和Dario Amodei等人支持由Centre for AI Safety發表的聲明，指出人工智能有可能導致人類滅絕。他們認為，AI的風險應該與其他社會風險，如疫情和核戰爭等同被全球關注。AI安全中心網站提出一些可能發生的災難場景，例如AI可能被武器化、AI生成的錯誤訊息可能破壞社會並「破壞集體決策」、AI的力量可能越來越集中在越來越少的人手中等等。然而，也有人認為這些擔憂是誇大其詞的。AI研究者Yann LeCun在推特上表示，大多數AI研究者對於這些災難預言的反應是摸著頭皮。 不少其他專家同樣認為，AI毀滅人類的擔憂是不現實的，並且是對現有問題，如系統偏見等的分散注意力。普林斯頓大學計算機科學家Arvind Narayanan曾告訴BBC，像科幻小說一樣的災難場景是不現實的：「現有的AI遠遠不足以實現這些風險。因此，這分散了人們對當前問題的關注。」 牛津大學AI倫理研究所的高級研究員Elizabeth Renieris則表示，她更擔心近期的風險。她說，AI的進步將放大已經存在的偏見系統等問題，並且會加劇自動化決策的規模，而這些決策可能存在偏見、歧視、排斥或其他不公正行為，同時也是不可理解且無法爭辯的。這些問題將會加劇假訊息的傳播，進一步分裂現實世界，破壞公眾信任，加劇不平等，特別是對那些處於數字落差的人。Renieris指出，許多AI工具本質上是「免費騎」在「人類迄今的整體經驗」上，許多工具都是在人類創造的內容、文本、藝術和音樂上訓練的，然後模仿這些內容，而它們的創造者「已經有效地將巨大的財富和權力從公共領域轉移到少數私人實體手中」。 英國財政大臣Rishi Sunak表示，他最近與AI公司的CEO會面討論了AI監管的問題，並表示政府正在密切關注AI的風險。他還表示，AI技術對經濟和社會的影響是積極的，例如幫助癱瘓患者行走和發現新的抗生素等。