تشخیص گفتار تنفرآمیز توسط هوش مصنوعی فیسبوک

تشخیص گفتار تنفرآمیز توسط هوش مصنوعی فیسبوک در حال بهبود است و موارد بیشتری نسبت به گزارشات ارائه شده توسط کاربران این رسانه اجتماعی را گزارش می کند.
این شبکه اجتماعی می گوید که ابزارهای خودکار آن در حال بهبود است ، اما همچنان تحت فشار است که برای مقابله با محتوای مضر بیشتر تلاش کند.

تشخیص گفتار تنفرآمیز در فیسبوک

فیس بوک روز پنجشنبه گفت که به دلیل پیشرفت در فناوری هوش مصنوعی، می تواند پیش از اینکه کاربری به گزارش محتوای نفرت آمیز بپردازد، آن را تشخیص دهد. فیس بوک گفت ، از ژوئیه تا سپتامبر ، ابزارهای هوش مصنوعی فیس بوک به طور فعالانه 94.7 درصد از سخنان نفرت را که توسط این شرکت حذف شده است ، شناسایی کردند ، در حالی که 80.5 درصد در مدت مشابه سال گذشته بود. این شبکه اجتماعی دلیل اصلی دستیابی به پیشرفت در ابزارهای خودکار خود ، از جمله آموزش بهتر ماشین آلات است. در سه ماهه سوم ، فیس بوک علیه 22.1 میلیون قطعه محتوای سخنان نفرت آمیز اقدام کرد. سرویس عکس این شرکت ، اینستاگرام ، علیه 6.5 میلیون قطعه محتوای سخنان نفرت انگیز اقدام کرد.

مایک شروپفر ، مدیر ارشد فناوری فیس بوک ، در مورد پست هایی که تشخیص گفتار تنفرآمیز در آن ها تایید شده گفته است: “هدف من ادامه دادن این فناوری به جلو است تا هرچند که تعداد کمی از افراد – امیدوارم در یک نقطه صفر – در جهان مجبور شوند با هر یک از این مطالب روبرو شوند.” استانداردهای جامعه شبکه اجتماعی. وی در طی یک تماس مطبوعاتی نظرات خود را ارائه داد. برای اولین بار ، فیس بوک همچنین داده های جدیدی را به اشتراک گذاشت که به شبکه اجتماعی نشان می دهد چه تعداد پست مضر از شکاف ها عبور می کند. این شرکت گفت ، 10 تا 11 بازدید از سخنان نفرت از هر 10 هزار بازدید از محتوای فیس بوک وجود دارد.

نحوه عملکرد و کارایی این فناوری برای تشخیص گفتار تنفرآمیز

غول رسانه های اجتماعی ، که از ترکیبی از مرورگرهای انسانی و فناوری برای حذف محتوای مضر استفاده می کند ، مورد انتقاد فعالان حقوق مدنی و سیاستمداران قرار گرفته است که می گویند فیس بوک قوانین خود را در برابر سخنرانی که مستقیماً به شخص حمله می کند بر اساس نژاد ، جنسیت اجرا نمی کند. یا سایر خصوصیات محافظت شده مارک های بزرگ امسال هزینه تبلیغات فیس بوک را متوقف کردند تا شرکت را تحت فشار قرار دهند تا اقدامات بیشتری برای مقابله و تشخیص گفتار تنفرآمیز انجام دهد، که به گفته آنها این شبکه هنوز در شبکه های اجتماعی جریان دارد.

در عین حال ، ناظران محتوایی که با فیس بوک قرارداد می بندند خواستار شرایط کار بهتر هستند. روز چهارشنبه ، بیش از 200 مجری محتوا نامه ای را به فیس بوک فرستادند و خواستار مزد بهتر و مزایای بهداشت روان شد زیرا برخی از کارگران در میان شیوع ویروس کرونا مجبور به بازگشت به مطب شدند. ناظران گفتند که سیستم های هوش مصنوعی فیس بوک هنوز محتوای پرخطری مانند پست های مربوط به خودآزاری را از دست می دهند.

در این نامه آمده است: “الگوریتم های فیس بوک سالها با دستیابی به سطح پیشرفته و لازم برای تعدیل خودکار مطالب فاصله دارند.” برخی از ناظران همچنین از فیس بوک شکایت کرده و ادعا کرده اند که کار مرور محتوای توهین آمیز به سلامت روان آنها آسیب زده است. گای روزن ، معاون صداقت فیس بوک ، طی یک تماس مطبوعاتی گفت که اکثر مجریان محتوا هنوز از خانه کار می کنند. هرچند ممکن است برخی از مطالب توهین آمیز بیش از حد گرافیکی باشد که در اطراف اعضای خانواده قابل مرور نباشد ، بنابراین افراد باید به دفتر خود برگردند.