فیسبوک ناکارآمدی هوش مصنوعی‌اش را در تشخیص خشونت قبول ندارد

وال استریت ژورنال در گزارشی جدید می گوید که هوش مصنوعی فیس بوک در حذف مداوم محتوای خشونت آمیز شکست خورده است. گای روزن، معاون رئیس فیس‌بوک، روز یکشنبه در پستی نوشت که گسترش سخنان نفرت‌انگیز و خشونت در این پلتفرم در سه سال گذشته 50 درصد کاهش یافته است و فناوری که ما برای مبارزه با محتوای نفرت‌انگیز و خشونت‌آمیز استفاده می‌کنیم، کاملاً اشتباه تفسیر نشده است.

روزن گفت: «نه ما، نه کاربران و نه تبلیغ‌کنندگان نمی‌خواهیم کسی محتوای نفرت‌انگیز و خشونت‌آمیز را در این پلتفرم ببیند و در کار خود برای حذف آن بسیار مصمم خواهیم بود». شواهد نشان می دهد که این اقدام نیازمند یک برنامه ریزی دقیق و بلندمدت است و تیم های ما به طور مداوم در حال توسعه سیستم های تشخیصی فیس بوک، شناسایی مشکلات و یافتن راه حل هستند.

به نظر می رسد این نشریه در پاسخ به مقاله ای در وال استریت ژورنال در روز یکشنبه باشد، که در آن این روزنامه در گزارشی ادعا کرد که کارمندان فیس بوک متهم به مشاهده محتوای توهین آمیز و خشونت آمیز در این پلت فرم قادر به انجام این کار نیستند. آنها اعتماد کافی ندارند. به نوشته این روزنامه، اسناد داخلی نشان می دهد که دو سال پیش فیس بوک نیروی کار خود را برای بررسی شکایات مربوط به سخنان نفرت و خشونت کاهش داد و در عوض از هوش مصنوعی خود استفاده کرد. این اقدام فیسبوک از ارائه موثر و کاربردی هوش مصنوعی این شرکت در اجرای قوانین مرتبط با محتوای خشونت آمیز خبر داد.

فیس بوک AI

تیمی از کارمندان فیس بوک در ماه مارس متوجه شدند که سیستم های خودکار این شرکت در حال حذف پست هایی هستند که بین 3 تا 5 درصد از محتوای منفور را در این پلت فرم اجتماعی ارسال می کنند. اما روزن گفت تمرکز بر حذف فقط چنین محتوایی راه درستی برای مبارزه با محتوای خشونت آمیز نیست. او می گوید فناوری حذف محتوای نفرت انگیز تنها راهی است که فیس بوک برای مبارزه با آن استفاده می کند.

روزن بر این باور است که تمرکز بر محتوای نفرت انگیزی که مردم در پلتفرم می بینند و نحوه کاهش آن با کمک ابزارهای مختلف بسیار مهم خواهد بود. او ادعا می کند که به ازای هر 10000 نفری که برخی از محتوای فیس بوک را بازدید می کنند، پنج نفر از الفاظ ناپسند استفاده می کنند. اما گزارش‌های اخیر حاکی از آن است که برخی از محتوای مهم ممکن است مانع از کشف هوش مصنوعی فیس‌بوک شود، از جمله ویدیوهایی از تصادفات اتومبیل که افراد مجروح را نشان می‌دهد و تهدیدهای خشونت‌آمیز علیه کودکان ترنس.

وال استریت ژورنال موارد زیادی را بر اساس اسناد داخلی ارائه شده توسط افشاگر فرانسیس هاگن در فیس بوک گزارش می دهد. او اخیرا اعتراف کرد که این شرکت از تاثیر منفی اینستاگرام بر نوجوانان آگاه بوده است، اما فیس بوک بر اساس اسناد داخلی این گزارش را تکذیب کرد. حدود یک ماه پیش، وال استریت ژورنال گزارشی بر اساس داده های داخلی فیس بوک منتشر کرد که در آن آمده بود که اینستاگرام اختلالات روانی حدود یک سوم دختران نوجوان را افزایش می دهد. به نظر می رسد این گزارش بر اساس یک مطالعه داخلی انجام شده توسط رئیس بخش تحقیقات فیس بوک است. با این حال، یکی از مقامات ارشد فیس بوک گفت که توضیحات در وال استریت ژورنال نادرست است.

فیسبوک ناکارآمدی هوش مصنوعی‌اش را در تشخیص خشونت قبول ندارد

وال استریت ژورنال گزارش های متعددی را در ماه های اخیر بر اساس نظرسنجی داخلی فیس بوک در این شبکه اجتماعی و شرکت های وابسته به آن منتشر کرده است. این گزارش جدید به طور خاص به تأثیرات اینستاگرام بر آسیب های روانی نوجوانان، به ویژه دختران نوجوان می پردازد. این روزنامه مدعی است که فیس بوک از تاثیرات منفی محصولات خود بر نوجوانان آگاه است، اما این یکی از اولویت های این شرکت نیست. رئیس بخش تحقیقات فیس بوک بسیاری از موضوعات مطرح شده در گزارش وال استریت ژورنال، از جمله اعتیاد نوجوانان به اینستاگرام را رد کرد و در عوض کاملاً بر اهمیت کم مطالعه تمرکز کرد. او می‌گوید تنها 40 شرکت‌کننده در این نظرسنجی شرکت کردند، که برای پلتفرمی که بیش از 1 میلیارد نفر برای نظرسنجی و تحقیق از آن استفاده می‌کنند، بسیار کم است.

متأسفانه نه فیس بوک، نه اینستاگرام و نه رئیس بخش تحقیقات فیس بوک هیچ داده ای برای اثبات حرفه ای بودن خود منتشر نکرده اند. بدون انتشار داده های قابل اعتماد، رد گزارش وال استریت ژورنال و پذیرش حرفه ای بودن مدیر عامل فیس بوک بسیار دشوار خواهد بود. همچنین لازم به ذکر است که این اولین بار نیست که به تأثیرات منفی و مخرب اینستاگرام بر سلامت روان نوجوانان توجه می شود که به نظر نمی رسد در اولویت اول فیس بوک باشد.

منبع: روی لبه

.

نمایش بیشتر

مشاور سئو و طراحی سایت

سلام امید دندان نما هستم مشاور بازاریابی و متخصص طراحی سایت و سئو که در سال 81 وارد دنیای برنامه نویسی شدم و از سال 1386 وارد دنیای بازاریابی و مدرک لیسانس ارتباطات از روی علاقه رفتم گرفتم

دیدگاهتان را بنویسید

دکمه بازگشت به بالا