對抗網絡霸凌 人工智能成Instagram首選武器
Instagram正面臨著所有社交媒體網站中都會遇到的問題——網絡霸凌的問題。但是,Instagram并沒有像Facebook和Twitter那樣,讓用戶承擔責任,而是通過使用機器學習來消除平臺上言語的攻擊行為。

反霸凌慈善機構Ditch the Label最近進行的一項調查發現,在12至25歲的英國青少年中,有42%的人認為Instagram是讓他們感到最受欺負的平臺,而這在Facebook和Twitter上分別僅為37%和9%,遠遠低于Instagram。此外,71%的被調查者認為所有社交媒體在阻止網絡霸凌方面做得還很不夠。
尋找解決方案
為了解決網絡霸凌問題,Instagram最近宣布了一項新戰略:集成機器學習算法來檢測和阻止其平臺上的潛在霸凌行為。該公司的首席執行官兼聯合創始人Kevin Systrom在一篇博文中表示,這項研究的目的是為了在Instagram上建立一個友善、包容的社區。
Instagram正在使用DeepText機器學習算法來嘗試解決網絡霸凌問題。在2016年6月,Facebook的工程師們推出了DeepText,它作為基于深度學習的文本理解引擎,以近乎人類的準確度,每秒可以理解數千個帖子的文本內容,同時還能實現上下文聯想功能。
通過深度學習,DeepText使用了人腦神經網絡建模的算法,像人類大腦一樣工作,通過演繹推理來確定某個單詞在特定語境下的意思。
例如,如果有人使用“mole”這個詞,DeepText則會識別用戶指的是小型哺乳動物、皮膚瑕疵還是叛徒。Facebook使用該系統篩選數千個帖子,更好地理解用戶,旨在創造一個更好、個性化的用戶體驗,來滿足個人興趣。
后來,2016年10月,Instagram又通過DeepText來消除垃圾郵件。該算法針對尋找企圖出售產品的組織,分析暗示數據是否為垃圾郵件。
DeepText的成功讓Instagram也在考慮該系統的其他用途。在2017年6月的博客文章中,Systrom宣布該公司將使用DeepText作為“阻止某些令人反感評論的過濾器”。該平臺使用最初由Facebook創建的技術來創建一個過濾器,為用戶建立一個安全的環境。
其他社交網站
網絡霸凌并不是Instagram獨有的問題——其他主流的社交媒體網絡也在為其用戶做出安全方面的改變。
康奈爾大學的研究生John Davidson也是很多關于社交媒體中網絡霸凌論文的合著者,他在談到Twitter時表示,“機器學習算法已被證明是檢測不良言論和網絡霸凌的有效方法。”Davidson表示,諸如“邏輯回歸模型、N Bayes、隨機森林、支持向量機”等各種不同的算法都被證實是有效的。但是,他表示所有這些方法的關鍵都是依賴監督學習,這是一種使用標簽訓練數據進行推理的機器學習策略。Davidson表示, 他的研究涉及收集數百萬個具有潛在可能的網絡霸凌(種族誹謗等等)推文,并為它們打上標簽,然后將這些數據提供給算法。Davidson補充表示,這些例子用于訓練算法,之后它應該能夠自己區分出不良的言論。
Twitter在2016年11月發布博客文章,發布了通知靜音功能以及仇恨行為策略,為用戶提供更直接的方法來阻止濫用媒體的行為。雖然這些努力正在試圖阻止網絡霸凌,但是屏蔽攻擊性的通知并不會使推文不存在。
Facebook試圖通過建立Bullying Prevention Hub(霸凌預防中心)來減少網絡霸凌事件。當青少年、家長和教育工作者自身或者他們認識的某個人遭到霸凌時,這個中心就是他們可以使用的資源。雖然為開啟網絡霸凌對話提供了寶貴的建議,但Facebook的欺凌預防中心并沒有直接采取任何行動來正面消除攻擊的內容。該公司只用該工具根據用戶的興趣向用戶推薦內容。
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 特斯拉Optimus Gen3量產在即,哪些環節最具確定性?
- 2 OpenAI深夜王炸!ChatGPT Images 2.0實測:中文穩、細節炸,設計師慌了
- 3 AI狂歡遇上油價破百,全球股市還能漲多久? | 產聯看全球
- 4 6000億美元估值錨定:字節跳動的“去單一化”突圍與估值重構
- 5 Tesla AI5芯片最新進展總結
- 6 連夜測了一波DeepSeek-V4,我發現它可能只剩“審美”這個短板了
- 7 熱點丨AI“瑜亮之爭”:既生OpenClaw,何生Hermes?
- 8 2026,人形機器人只贏了面子
- 9 AI界的殺豬盤:9秒刪庫跑路,全員被封號,還繼續扣錢!
- 10 AI Infra產業鏈卡在哪里了?


分享













