Character.AI 为青少年用户实施新的安全措施

Character.AI 增强青少年用户的安全

据 Character.AI 博客称，Character.AI 宣布了一系列重大变更，旨在增强 18 岁以下用户平台的安全性。这些变化包括取消开放式聊天功能并引入新的年龄保证功能，预计将于 2025 年 11 月 25 日实施。

用户安全新举措

为了维护安全的环境，Character.AI 将限制 18 岁以下的用户在其平台上与 AI 进行开放式对话。这一决定是更广泛战略的一部分，旨在确保青少年能够以安全的方式创造性地参与人工智能。此外，该平台将把未成年用户的聊天时间限制为每天两小时，并在全面实施日期之前逐步减少这一限制。

Character.AI 还推出了内部开发的年龄保证模型，并辅以 Persona 等第三方工具，以确保用户获得适合年龄的体验。该模型是该公司致力于保护年轻用户与人工智能互动的承诺的关键部分。

AI安全实验室成立

为了进一步强调其对安全的奉献精神，Character.AI 宣布成立人工智能安全实验室，这是一个独立的非营利组织。该实验室将专注于推进人工智能娱乐功能的安全技术。通过与包括技术公司和研究人员在内的各种利益相关者合作，该实验室旨在促进下一代人工智能应用的安全协调创新。

变更背后的理由

实施这些改变的决定是为了回应人们对青少年如何与人工智能互动日益增长的担忧。监管机构和安全专家最近的报告和反馈强调了与开放式人工智能聊天相关的潜在风险。 Character.AI 的主动措施旨在解决这些问题，并为快速发展的人工智能领域中优先考虑安全性树立先例。

Character.AI 的做法明显比一些同行更为保守，这反映了其致力于为青少年用户提供安全且富有创意的环境的承诺。该公司计划继续与专家和监管机构合作，以确保其平台仍然是创造力和发现的安全空间。

图片来源：Shutterstock