两大日企警告 放任生成式AI或致社会秩序崩塌 | 联合早报

（东京讯）日本最大电信公司和最大报章星期一（4月8日）发表联合宣言警告，若放任生成式人工智能（generative AI）不受控制地发展，在最坏情况下，民主和社会秩序可能会崩塌，从而导致战争。宣言呼吁日本政府尽快立法限制这种技术。

日本电信电话（NTT）和《读卖新闻》在这份宣言中指出，生成式AI虽给人类带来了一些好处，但AI工具已开始损害人类的尊严，因为这些工具有时会不顾道德或准确性，只为吸引用户的注意力而设计。

宣言警告，若任由生成式AI肆意发展，整个社会的信任可能会受到损害，随着人们失去确保信息真实和可靠的动力，他们将变得互相不信任。在最糟糕的情况下，民主和社会秩序可能崩塌并引发战争。

NTT和《读卖新闻》主张，日本政府必须立即采取应对措施，使选举和国家安全不会因生成式AI的滥用而遭到破坏。这些措施包括制定法律，尤其是限制这种技术在选举和安全领域的使用、保障健康的讨论空间、与时俱进地优化版权法等。

《华尔街日报》指出，这份宣言与欧洲议会今年3月通过限制AI用途的法律表明，美国盟友对美国公司一直处于开发前沿的AI项目越来越担忧。

延伸阅读

[研究：全球多数企业高管尚未准备好迎接人工智能转型

](https://www.bdggg.com/2024/zaobao/news_2024_04_06_674608) [无人驾驶巴士酿祸谁是被告？梅达顺：新科技催生新法律问题

](https://www.bdggg.com/2024/zaobao/news_2024_04_04_674163) 目前，美国、英国和日本都成立了由政府领导的AI安全机构，协助制定AI指南。欧盟的新法要求最强大的AI模型制造商对这些模型进行安全评估，并向监管机构通报严重事故，同时禁止在学校和工作场所使用情绪识别AI工具。

美国拜登政府也规定大型AI公司须在开发可能对国家安全构成严重威胁的系统时告通知政府。然而，要如何在遵守宪法与保障言论自由的情况下，对AI驱动的言论进行监管是一大难题。

NTT和《读卖新闻》称，发表联合宣言是出于对公共言论的担忧。NTT正积极研究AI技术，并向企业客户提供生成式AI产品。《读卖新闻》的新闻和社论经常强调对AI的担忧。

这两家公司对日本政策的影响力都位居前列。NTT曾是政府控制的电话垄断企业，如今政府仍持有公司约三分之一的股份。《读卖新闻》则是日本读者最多的报纸，早报发行量约为600万份。

宣言说，两家公司将继续研究生成式AI的问题并做出建议，庆应义塾大学的网络文明研究中心将在这方面提供支持。