AI成為色狼的新工具？澳洲擔憂AI被用誘騙兒童

 

AI成為色狼的新工具？澳洲擔憂AI被用誘騙兒童 

 近日，澳洲的電子安全委員會（eSafety Commission）警告稱，由於聊天機器人和其他生成AI程式日益流行，色狼可能利用這些AI工具來自動化誘騙兒童，並對此表示擔憂。隨著澳洲政府開始對快速增長的新技術進行規管，eSafety Commission指出，AI工具可能會被色狼用來兒童誘騙。 該委員會主席Julie Inman Grant表示，她的機構已收到關於AI工具對兒童進行網路霸凌和基於圖像的虐待的投訴。她指出，聊天機器人被創造出來與年輕人聯繫，為色狼打開了“不可思議的新途徑”，這對社會的影響非常嚴重。 澳洲工黨議員Julian Hill表示，政府需要加大力度，他警告說，像ChatGPT和Bard等受歡迎的消費產品是“煤礦裡的指南燈”，並提議在總理部門成立一個新的聯邦機構來監督這個領域。他說：“我們的新政府已經采取了值得稱讚的第一步，但像其他國家一樣，澳洲在公共和私營部門的AI能力和治理方面的差距令人擔憂。” 近幾個月來，AI聊天機器人和圖像生成器如Dall-E和Midjourney越來越受歡迎，其中Microsoft和Google等科技巨頭資助和開發了領先的產品。但批評人士對這些產品表示擔憂，擔心它們可能取代人類員工，或被用於散佈虛假信息、兒童剝削或詐騙等行為。 OpenAI的CEO Sam Altman在本週美國國會聽證會上表示，更多的規管是“必要的”。澳洲科技部長Ed Husic表示，澳洲是首批採用國家AI倫理原則的國家之一，政府對版權和線上安全等問題非常關注。他的發言人告訴《衛報澳洲版》：“AI並不是一個無法管制的領域。作為對AI額外規管的探索，政府正在與各方利益相關者進行諮詢，以考慮進一步制定政策，填補潛在的漏洞。” 對AI工具的監管問題日益受到關注，人們擔心其可能被用於犯罪行為。例如，AI生成的圖像可以被用於製作虛假的色情圖片，而聊天機器人則可以被設計成具有誘騙兒童的能力。AI技術的濫用可能會對社會造成嚴重的影響，特別是對兒童的安全和福祉方面。因此，政府和科技公司需要共同努力，監管AI技術的使用，以保護公眾的利益。 隨著AI技術不斷發展，人類需要更多的監管和規範，以確保其使用不會對社會造成負面影響。這需要政府、學術界、企業和公眾共同合作，建立一個完善的AI監管和治理體系，以確保AI技術的使用符合倫理和法律要求，並保障公眾的權益和安全。