英国人工智能聊天机器人公司面临更严格的监管以保护儿童

英国政府正在堵塞新的在线安全立法中的一个“漏洞”，该立法将使人工智能聊天机器人必须遵守打击非法材料的要求，否则将面临罚款，甚至被封锁。

在该国政府坚决批评埃隆·马斯克的 X 聊天机器人 Grok 创建的露骨色情内容后，总理凯尔·斯塔默 (Keir Starmer) 宣布了新措施，这意味着 OpenAI 的 ChatGPT 等聊天机器人， 谷歌的 双子座，以及 微软 Copilot 将被纳入其政府的在线安全法案中。

公告称，这些平台将被要求遵守“非法内容责任”，否则“将面临违法后果”。

此前，欧盟委员会在一月份对马斯克的 X 进行了调查，原因是其传播儿童和其他个人的露骨色情图片。斯塔默带头呼吁马斯克制止这一行为。

早些时候，英国媒体监管机构 Ofcom 开始对 X 据称传播儿童和其他个人露骨色情图片的行为进行调查。

斯塔默在宣布最新措施时表示：“我们对 Grok 采取的行动发出了一个明确的信息，即没有任何平台能够获得免费通行证。” “我们正在堵住使儿童面临危险的漏洞，并为采取进一步行动奠定基础。”

斯塔默周一就新权力发表了演讲，其中包括为社交媒体平台设定最低年龄限制、限制无限滚动等有害功能，以及限制儿童使用人工智能聊天机器人和访问 VPN。

宣布的一项措施将迫使社交媒体公司在儿童死亡后保留数据，除非在线活动明显与死亡无关。

斯塔默说：“我们正在采取行动保护儿童的福祉，并帮助家长避开社交媒体的雷区。”

Simmons & Simmons 律师事务所 TMT 主管 Alex Brown 表示，这一公告表明政府正在采取不同的方法来监管快速发展的技术。

布朗在给 CNBC 的一份声明中表示：“从历史上看，我们的立法者一直不愿意监管这项技术，而是试图监管其用例，并且有充分的理由。”

他表示，针对特定技术的法规可能会很快过时，并可能导致其使用的某些方面被遗漏。布朗说，生成式人工智能正在暴露《在线安全法案》的局限性，该法案的重点是“监管服务而不是技术”。

他补充说，斯塔默的最新公告表明，英国政府希望解决“技术本身的设计和行为所带来的危险，而不仅仅是用户生成的内容或平台功能带来的危险”。

近几个月来，人们对儿童和青少年使用社交媒体的情况进行了更严格的审查，立法者指出这会损害心理健康和福祉。去年 12 月，澳大利亚成为第一个实施禁止 16 岁以下青少年使用社交媒体的法律的国家。

澳大利亚的禁令迫使 Alphabet 的 YouTube、Meta 的 Instagram 和字节跳动的 TikTok 等应用程序采用年龄验证方法，例如上传身份证件或银行详细信息，以防止 16 岁以下的人创建账户。

本月早些时候，西班牙成为第一个实施禁令的欧洲国家，法国、希腊、意大利、丹麦和芬兰也在考虑类似的提议。

英国政府于 1 月份发起了关于禁止 16 岁以下青少年使用社交媒体的咨询。

此外，英国上议院（未经选举产生的上议院）上个月投票通过了《儿童福利和学校法案》修正案，纳入针对 16 岁以下儿童的社交媒体禁令。

下一阶段该法案将由议会下议院审查。任何修改都必须在通过成为法律之前获得两院同意。