Roblox，Alphabet，OpenAI和Discord为开源在线儿童安全工具筹集了2700万美元

Google，Openai，Roblox和Discord正在努力为社会做一些集体，因为它们最近成立了一个新的非营利组织，旨在在线改善儿童安全。 

该计划被称为强大的开放在线安全工具（ROOST），并将努力确保公司更容易获得核心安全技术，同时为我提供免费的，开源的AI工具，以dent我的ifying，审查和报告儿童性虐待材料。

儿童性骚扰是一种全球流行病，尽管努力遏制它，但仍在在线空间中蓬勃发展。近来，许多应用程序用户甚至立法者都在暗示，像梅塔（Meta）的马克·扎克伯格（Mark Zuckerberg）这样的应用程序创建者对其产品所造成的伤害负责，尤其是在涉及儿童色情和性虐待的地方。 

该倡议解决了一个关键需求 

该联合计划在部分响应生成AI对在线环境中的变化而发生了部分发生。创始Roost合作伙伴和前Google首席执行官Eric Sc​​hmidt表示，该计划希望解决“在线儿童安全方面的创新至关重要的需求”。

目前，有关CSAM检测工具的详细信息尚未完全可用。但是，我们确实知道他们将利用大型语言AI模型并“统一”现有选项来处理内容。

Schmidt说：“从重点关注儿童保护的平台开始，Roost的合作，开源方法将促进创新，并使基本基础设施更加透明，易于访问和包容性，目的是为所有人创建更安全的互联网。” 

如前所述，Roost公告恰逢社交媒体和在线平台上有关儿童安全的持续监管推动力。现在，公司正在寻求与自我调节提案相提并论的议员。

Roost将与领先的AI基础模型开发人员合作以实现其目标

根据国家失踪和被剥削儿童中心（NCMEC）的说法，涉嫌剥削的儿童剥削在2022年至2023年之间增加了12％。截至2020年，美国一半以上的儿童涉足Roblox，并且该公司因未能遭受的未能遭受重大批评。解决儿童的性剥削并在其平台上接触不适当的内容。

Roost的创始成员及其所有资源，将在其成型的过程中为项目提供各种资金，并为项目提供工具或专业知识。该倡议还表示，它将与领先的AI基金会模型开发人员合作，为内容保障建立“实践社区”。这将包括提供经过审查的AI培训数据集，以及我在安全方面dent差距。

该计划还将使“已经存在的工具”更容易访问，从而有效地将其成员组织的各种检测和报告技术结合到了其他公司可以更容易实施的统一解决方案中。 

Roblox和不和谐努力改变其声誉

与Roblox一起， Discord还在2022年提起的社交媒体诉讼中被挑出，该诉讼称这些平台并没有阻止成年人在没有监督的情况下向儿童发送消息。

Roblox的工程，信任和安全副dent Naren Koneru表示，Roost可能会托管AI审核系统，公司可以通过API呼叫整合。但是，关于Roost的AI适量工具将涵盖的内容有一些模糊性。

例如，Discord表示，其贡献将建立在2023年与Meta和Google一起加入的灯笼跨平台信息共享项目上。但这也可能包括Roblox的AI模型的更新版本，用于检测亵渎，种族主义，欺凌，性爱和其他不适当的内容，该公司计划今年将其作为开源产品发布。 

这些工具将如何与已经存在的一线CSAM检测系统（如Microsoft的PhotoDNA图像分析工具）相交还有待观察。

除了成为Roost的一部分之外， Discord还发布了一项新的“忽略”功能，该功能使用户可以隐藏他们收到的消息和通知，而无需通知他们静音的人。

“在不和谐中，我们认为安全是一种普遍的利益，” Discord的首席法律官克林特·史密斯（Clint Smith）在《栖息地》公告中分享道。 “我们致力于使整个互联网（不仅是不和谐）成为一个更好，更安全的地方，尤其是对于年轻人而言。” 

目前，该倡议已筹集了超过2700万美元的资金，这将占其前四年运营，并由麦戈文基金会（McGovern Foundation），在线信托基金和安全基金会的未来，奈特基金会（Knight Foundation）和AI协作等慈善组织的支持。 

Roost组织还将得到儿童安全，人工智能，开源技术和“反暴力极端主义”专家的支持。从本质上讲，这是伟大思想的高潮，以遏制儿童性虐待以及其内容如何遍及世界。而且，由于它是开源的，因此可以进行全球开发人员社区的持续更新和改进，这意味着即将创建的野兽栖息地将随着时间的流逝而继续发展。

Cryptopolitan Academy：您是否犯过这些 Web3 简历错误？ -在这里找到答案