州长加文·纽瑟姆 (Gavin Newsom) 于 2025 年 8 月 7 日在美国加利福尼亚州旧金山的 Google 旧金山办事处发表演讲，谈论“创建一支人工智能就绪的劳动力队伍”，这是与一些世界领先的科技公司共同努力的新举措，旨在帮助加州的学生和工人更好地为下一代技术做好准备。
泰丰·科斯昆 |阿纳多卢 |盖蒂图片社
由于对人工智能和社交媒体使用相关风险的担忧不断加剧，加州州长加文·纽瑟姆周一签署了一系列针对儿童上网安全的法案。
他在一份新闻稿中表示：“我们可以继续在人工智能和技术领域处于领先地位，但我们必须负责任地做到这一点——每一步都保护我们的孩子。” “我们孩子的安全是无价的。”
最新立法出台之际，人工智能热潮迎来了一波更复杂的聊天机器人，它们能够进行深入、智力的对话和鼓励行为。在各个年龄段，人们都依靠人工智能来获得情感支持、陪伴，在某些情况下还需要浪漫的联系。
Fractl Agents 最近的一项调查发现，六分之一的美国人依赖聊天机器人，并担心失去访问权限会阻碍他们的情感和职业发展。超过五分之一的受访者表示与他们的聊天机器人有情感联系。
许多立法者呼吁制定法律，要求大型科技公司更好地防止聊天机器人在其平台上宣扬自杀和自残等不安全行为。
纽瑟姆周一签署成为法律的法案旨在解决其中一些担忧。
变化
加利福尼亚州通过的一项法律实施了一系列针对人工智能聊天机器人的保障措施。
SB 243 是同类法律中第一部州法律，要求聊天机器人披露自己是人工智能，并每三个小时告诉未成年人“休息一下”。聊天机器人制造商还需要实施工具来防止有害行为，并向危机热线披露某些情况。
纽瑟姆在一份新闻稿中表示，该法律允许加州保持其在创新方面的领先地位，同时要求公司承担责任并优先考虑安全。
OpenAI 在给 CNBC 的一份声明中称该法律是人工智能安全标准的“有意义的进步”。
该公司表示：“通过设置明确的护栏，加州正在帮助在全国范围内制定更负责任的人工智能开发和部署方法。”
纽瑟姆签署的另一项法案 AB 56 要求 Instagram 和 Snapchat 等社交媒体平台添加标签，警告用户使用此类应用程序可能带来的潜在心理健康风险。与此同时，AB 621 加大了对平台上传播深度伪造色情内容的公司的处罚力度。
另一项关键法律称为 AB 1043，要求苹果和谷歌等设备制造商在其应用商店中实施工具来验证用户年龄。一些大型科技公司已经支持该法律的保障措施，包括 谷歌 和 元。
上个月，卡里姆·加内姆, 谷歌政府、事务和公共政策高级总监称 AB 1043 是确保儿童上网安全的“最周到的方法”之一。
对大型科技公司的影响
新法律要求对许多长期存在的商业模式进行一系列改变。但地方检察官戴维森的吉尔·卢里亚表示，企业应该会感受到这些新措施的“分散”影响，因为所有企业都被迫遵守这些规则。
“对于人工智能聊天来说，时机是有利的，因为这些公司仍在制定他们的商业模式，现在将在一开始就采取更严格的方法，”他说。
其他国家已经制定了对人工智能更严格的限制规则。去年，欧盟通过了《人工智能法案》，其中包括对违反包括社会评分系统在内的法律框架的公司处以罚款。
犹他州和德克萨斯州也签署了针对未成年人实施人工智能保护的法律。例如，犹他州法律要求 Apple 和 Google 验证用户年龄，并且 18 岁以下的用户需要获得家长许可才能使用某些应用程序。这些法律还引发了人们的疑问：严格的限制是否违反言论自由，或者禁令是否是最有效的解决方案。
加州并不是第一个通过此类法律的司法管辖区，但由于该州人口规模庞大，而且许多科技公司都位于旧金山湾区，因此纽瑟姆的签署具有重要意义。
手表： 为什么是时候认真对待人工智能与人类的关系了
关键词：法律,社交媒体,政治,突发新闻：政治,突发新闻：技术,技术,Alphabet Class A,Meta Platforms Inc,商业新闻
