近日，多家科技巨頭攜手創(chuàng)立了一個名為ROOST的非營利組織，旨在構(gòu)建一個適應(yīng)AI時代的、可擴(kuò)展且互聯(lián)互通的在線安全基礎(chǔ)設(shè)施。ROOST由Roblox、Discord、OpenAI及谷歌聯(lián)合發(fā)起，意在通過提供開源安全工具，提升公共與私人機(jī)構(gòu)的安全防護(hù)能力。
ROOST計(jì)劃向各機(jī)構(gòu)免費(fèi)提供這些安全工具，助力它們在自家平臺上筑起安全防線。特別ROOST初期將重點(diǎn)聚焦于兒童安全，承諾提供用于“檢測、審核及報(bào)告兒童性虐待材料（CSAM）”的相關(guān)工具。參與合作的公司不僅為這些工具提供資金支持，還貢獻(xiàn)了必要的技術(shù)力量。
ROOST的核心理念在于，隨著生成式AI技術(shù)的迅猛發(fā)展，網(wǎng)絡(luò)環(huán)境正經(jīng)歷深刻變革，對“可靠且易于獲取的安全基礎(chǔ)設(shè)施”的需求愈發(fā)迫切。ROOST致力于避免小公司或組織從零開始摸索安全工具的開發(fā)，而是直接為其提供現(xiàn)成的、免費(fèi)的安全解決方案。
近年來，兒童在線安全問題一直備受社會關(guān)注。盡管《兒童與青少年在線隱私保護(hù)法案》和《兒童在線安全法案》在國會審議過程中未能獲得通過，但包括谷歌和OpenAI在內(nèi)的多家公司已明確表示，將停止使用AI技術(shù)生成兒童性虐待材料。ROOST的成立，無疑為這一問題的解決提供了新的思路和途徑。
對于以兒童用戶為主的Roblox而言，兒童安全問題更是至關(guān)重要。數(shù)據(jù)顯示，美國九至十二歲兒童中有三分之二使用Roblox平臺，而該平臺在兒童安全問題上一直面臨挑戰(zhàn)。此前，《彭博商業(yè)周刊》曾報(bào)道Roblox遭遇“戀童癖問題”，這促使平臺對兒童私信實(shí)施了更加嚴(yán)格的限制和新政策。ROOST的成立，無疑將為Roblox等類似平臺提供更加便捷、有效的安全應(yīng)對方案。
盡管ROOST無法包攬所有安全問題，但它無疑為眾多組織或公司提供了一個更為簡便、實(shí)用的安全工具獲取渠道，有助于共同構(gòu)建一個更加安全的網(wǎng)絡(luò)環(huán)境。
