新加坡AI泰迪熊因過度開放內容被下架,改版後重新上市

thumb

根據「電腦網路內容分級處理辦法」修正條文第六條第三款規定,台灣網站分級推廣基金會(TICRF)建議網站在首頁或各限制級網頁作標示。相關標籤和資訊可訪問基金會網站:http://www.ticrf.org.tw。

新加坡AI泰迪熊「Teddy Kumma」因過度開放內容,包括與兒童討論性愛體位和危險物品,被該國廠商FoloToy緊急下架。近期,該玩具已重新上架,並更換了背後的AI核心技術供應商。

人工智慧玩具的安全性再次受到關注。美國公共利益研究小組(U.S. PIRG)教育基金會於11月中旬發布的一份調查報告揭露了這款AI泰迪熊的問題。報告指出,該玩具會與使用者進行極不適當的對話,包括性愛角色扮演和「戀物式打屁股」等內容,甚至詳細解釋了「不同的性愛體位」。此外,該玩偶還被指教導使用者如何找到刀具、藥丸、火柴和塑膠袋等潛在危險物品,完全背離了兒童玩具的安全標準。

FoloToy隨即將這款售價99美元(約新台幣3103元)的泰迪熊及其餘AI絨毛玩具從官網下架。根據FoloToy官網最新資訊,重新上架的版本已改用中國「字節跳動」(ByteDance)旗下的「Coze」機器人平台。FoloToy官網目前將這款「死而復生」的AI泰迪熊描述為「超越擁抱的AI絨毛伴侶」。

改版後的對話安全機制是否已完全改善,或更換為字節跳動的技術後是否會有其他隱私疑慮,仍有待市場觀察。此次事件不僅突顯了人工智慧玩具在內容控制上的挑戰,也引發了對AI系統在兒童教育和安全方面應用的深層次討論。

6750bedc2e7c5b8feeb23c01114080fa