日本政府出臺人工智能草案 要求AI大模型運營商降低幻覺率

日本政府12日公布人工智能（AI）利用指針草案，核心內(nèi)容包括：要求企業(yè)積極公開信息、防止高度仿真的“深度偽造”圖像等不當內(nèi)容擴散，并呼吁公眾正確理解AI特性及其潛在風險，如偏見與犯罪用途。

該指針依據(jù)9月正式施行的《人工智能法》，總結(jié)公民與企業(yè)在使用AI時的基本注意事項，雖無法律約束力，但緩解了社會對生成式AI的擔憂。

草案要求研究機構(gòu)與開發(fā)企業(yè)制定并公開訓練數(shù)據(jù)收集方針，以降低隱私侵權(quán)或數(shù)據(jù)偏頗導致的模型輸出風險。文件指出，應(yīng)加強防止AI生成虛構(gòu)或錯誤信息（即“幻覺”現(xiàn)象）的努力，因為此類問題可能對社會與商業(yè)造成廣泛影響。

同時，政府呼吁公眾提升AI素養(yǎng)。AI法第15條明確提出，應(yīng)推動人工智能相關(guān)教育與學習，使國民廣泛理解與掌握相關(guān)技術(shù)。

《人工智能法》已于2025年5月28日通過國會，6月4日部分施行，9月1日全面生效。日本政府計劃在年底前匯總《基礎(chǔ)AI計劃》草案，并于2026年初發(fā)布具體行動方案。

日本此次指針旨在構(gòu)建“與人工智能共存的社會”，確保人工智能的發(fā)展兼顧透明性與安全性。