AI之父Yoshua Bengio感到對自己的人生工作感到"迷失"
人工智慧（AI）的發展讓許多人感到擔憂，其中包括AI領域的重量級人物之一，也是AI之父之一的Yoshua Bengio。他在最近接受BBC訪問時表示，若他當初意識到AI發展的速度，他會更重視安全性而非實用性。此外，他還呼籲不應授予軍隊使用AI的權力。
Bengio是AI領域的專家，也是加拿大蒙特利爾大學的教授。在他的領導下，該大學成為了全球最重要的AI研究機構之一。然而，他現在感到迷茫和困惑，對於他的人生工作感到失落。
AI被描述為計算機具有進行複雜任務的能力，這些任務以前需要人類智慧才能完成。近年來，AI聊天機器人的發展已經開始模擬人類的對話能力，例如ChatGPT，它可以回答人類提出的問題，並給出人類般的答案。但是，有些人擔心高度發展的計算能力可能會被用於有害目的，例如開發致命的新化學武器。
Bengio表示，他對"壞人"獲得AI的擔憂尤其嚴重，尤其是隨著AI變得更加複雜和強大。他說："這可能是軍隊，可能是恐怖分子，可能是非常憤怒和精神錯亂的人。如果這些AI系統很容易被編程要求他們做一些非常糟糕的事情，那就非常危險了。如果他們比我們聰明，那我們很難阻止這些系統或防止損害。"
Bengio還承認這些擔憂正對他個人產生影響，因為他的人生工作給了他方向和身份認同，但現在他感到迷失了方向。他說："這對於身處AI行業內部的人來說是具有挑戰性的，情感上挑戰性非常大。你可以說我感到迷失了。但是你必須繼續前進，與人交流，鼓勵他人與你一起思考。"
Bengio已經簽署了兩份關於AI未來風險的警告聲明。一些學者和行業專家警告說，AI發展的速度可能會導致“壞人”部署惡意AI來主動造成危害，或者AI自己選擇造成傷害。另外，AI之父之一的Geoffrey Hinton也加入了這些警告聲音，並最近從Google退休，表示後悔自己的工作。第三位AI之父Yann LeCun則認為，末日警告有些言過其實。
除了AI領域的專家之外，Twitter和Tesla的所有者Elon Musk也表達了他對AI的擔憂。他認為，AI不會試圖摧毀人類，但可能會將我們置於嚴格的控制之下。
AI的發展帶來了無限的可能性，但也伴隨著巨大的風險。因此，現在正是AI領域的專家和政策制定者制定規範和限制的時候了。只有通過科學和道德的方法，才能確保AI的發展不會對人類造成毀滅性的影響。
Read More: Why is AI godfather Yoshua Bengio feeling "lost" over his life's work?
留言
張貼留言