نظرات آنلاین مخرب در یوتیوب؛هوش مصنوعی‎ و سم زدایی با مثبت اندیشی

آیا نظرات آنلاین مخرب درمان خواهند شد؟ به دنبال روشی برای درمان اینترنت گشتن از بدو تولد آن همیشه معضلی قابل بحث بوده است. با این حال که اینترنت محلی برای نشر اطلاعات و و فرهنگ هادر سر تاسر جهان بوده ولی با مشکلاتی از قبیل نشر خبرهای دروغ و ایجاد سیاه چاله در بخش نظرات شبکه های اجتماعی دست و پنجه نرم می کند. در واقع اینترنت می تواند خیلی سمی باشد. ولی چگونه از این سم ها و خطرها در امان بمانیم؟

به عنوان مثال اینستاگرام در خبری اعلام کرد که بسیاری از کاربران شبکه‌های اجتماعی نظیر فیسبوک و توئیتر اخیرا خواستار بررسی عمیق پدیدهٔ زورگویی و آزار و اذیت‌های آنلاین شده‌اند. مسئولان این شرکت اعلام کردند که اینستاگرام سالها است از هوش مصنوعی برای نظارت بر آزار و اذیت و نیز انتشار محتوای آسیب‌زننده استفاده می‌کند اما این بار این فناوری را برای آن به کار می‌گیرد که پیش از آن که کاربر تصویر یا ویدئویی نامناسب را منتشر کند به وی هشدار بدهد. اما بسیاری از کاربران شبکه‌های اجتماعی مایل نیستند کسانی را که کامنت‌های نامناسب، حاوی توهین، یا آزاردهنده منتشر می کنند بلاک کنند چرا که با این افراد در زندگی روزانه برخورد دارند و چنین کاری ممکن است وضعیت را بدتر کند.

سوال این است که آیا برنامه و الگوریتم های سانسور کردن روشی برای حل نظرات آنلاین مخرب است؟ ایا باید بخش نظرات را در پست های بحث برانگیز بست؟ چطور بلاک کردن نظرات پر حاشیه به خاطر صلاح عموم مردم با این باور که اینترنت سکویی برای دادن صدا و ازادی است همخوانی خواهد داشت؟

برجسته کردن نظرات مثبت و آگاه کننده به جای بلاک کامنت های منفی

محققان در دانشگاه کارنگی ملون ابزاری تولید کرده اند که امیدوارند به این وضعیت کمکی کند. این ابزار یک هوش مصنوعی است که الگوریتم آن بر خلاف باورعموم با بلاک کردن نظرات مخرب آنلاین کار نخواهد کرد . در مقابل از الگوریتمی استفاده می کند که استفاده از سخنرانی کمک کننده را زیاد کرده و برجسته میکند. این محققان امیدوارند که این عمل مدینه فاضله سایبری را محقق کرده و و اینترنت را به صدایی برای مردمان بی صدا و کم امتیاز تبدیل کند.
این الگوریتم که در موسسه تکنولوژی زبانی این دانشگاه تعبیه شده کامنت های انلاین در یوتیوب را بررسی می کند و کامنتهایی را که به دفاع از یا همدردی با اقلیتها پرداخته اند را هایلات و برجسته میکند.

عاشق خدابخش که محققی در دپارتمانت علوم کامپیوتر نقل کرد که” ما چارچوبی توسعه دادیم که تا کمپینی برای بررسی محرومیت اقلیت ها از حق انسانی خود ایجاد شود و در این مورد خاص به جستجوی محتوایی از وب بپردازد که به کمک مردم رو هینگیا می شتابند”

“ما روی یوتیوب متمرکز شدیم ، یک بستر رسانه اجتماعی که در آسیای جنوبی بسیار محبوب است. تجزیه و تحلیلهانشان داده است که كه تعداد زیادی از نظرات در مورد روهینگیاها تحقیرآمیز بوده است. ما یک روش خودکار ایجاد کردیم تا عده ای بتوانند علت وجود خود را جشن بگیرند وگرنه که در غیر این صورت توسط تعداد زیادی از نظرات سخت و منفی غرق می شوند. “

” اساس کار ما در تشخیص نظرات حمایتی – آنچه ما به عنوان سخنرانی کمک می نامیم – نشانگر جهت جدید بهبود تجربه آنلاین از طریق تقویت مثبت اندیشی است.”

برای آموزش این هوش مصنوعی ، محققان بیش از یک چهارم میلیون نظر ات آنلاین یوتیوب را جمع آوری کردند. آنها با استفاده از برترین فن آوری مدل سازی زبانی ، الگوریتمی ایجاد کردند که بتواند نظرات مخرب آنلاین را سم زدایی کرده و کامنت هایی با نظرات مثبت و حمایتی راجع به جامعه روهینگیا را برجسته کند. تجزیه و تحلیل معنایی خودکار نظرات کاربران ، همانطور که انتظار دارید آسان نیست. فقط در شبه قاره هند ، 22 زبان اصلی وجود دارد. همچنین اشتباهات املایی و تغییرات املایی غیر استاندارد نیز وجود دارد که هنگام ارزیابی زبان با آنها مواجه کنید. با این وجود ،هوش مصنوعی توسعه یافته توسط این تیم توانست تا حد زیادی دیدگاه های مثبت را افزایش دهد. مهمتر از همه ، این کار با هوش بسیار سریعتر از یک مجری انسانی است.

گسترش کاربرد این هوش مصنوعی

محققان در حال گسترش این پروژه اند تای این هوش مصنوعی در سناریو های متفاوت دیگر که تاثیر بالای اجتماعی دارند ، عمل کرده و به تقویت محتوای مثبت بپردازد. یک مثال ، بحث و گفتگوی آنلاین در هنگام افزایش تنش سیاسی بین مخالفان هسته ای است.

خدابخش گفت: “فرض اصلی چگونگی کمک به یک جامعه به ماهیت آن جامعه بستگی دارد. حتی بحران های متفاوت به کمک هات و رسیدگی های متفاوت احتیاج دارند. به عنوان مثال ، در بحران شیوع یک بیماری مسری ارائه کمک های پزشکی می تواند کمک بزرگی باشد. از این رو ،در هر جامعه برای یافتن محتوای مثبت به طور خودکار ، به الگوریتم ها و طبقه بندیگرهای گفتاری تفاوتهای مختلفی نیاز دارد. “

کامنت های منفی باقی خواهند ماند؛ سم زدایی آسان نخواهد بود

هرچند ایده تقویت محتوا و نظرات مثبت راجع به اقلیت ها جذاب است اما حل مشکلات نظرات و سخن های آنلاین آسان نخواهد بود. بزرگترین مشکل اساس کار اینترنت است که به صداهای بلند و از قبل شنیده شده اهمیت داده و آن ها را با بزرگنمایی دوباره پاداش می دهد. به عنوان مثال ، الگوریتم PageRank Google صفحات وب را در با شمارش تعداد و کیفیت پیوندها به یک صفحه رتبه بندی می کند. و یا موضوعات مورد علاقه پیشنهادی در توییتر با توجه به تعداد خوانده شدن آن توسط افراد دیگرتعیین شده است. و به این ترتیب در شبکه های اجتماعی دیگر بخش نظرات اغلب نظراتی را برجسته می کتتد که شدیدترین واکنش را برانگیخته است.

احتمالا واژه حماقت دسته جمعی به گوشتان خورده است. این موضوع در دنیای آنلاین نیز وجود داشته و تعدادبالای صداهای هم صدا باعث به اقلیت کشاندن صداهای مخالف خواهد بود که شاید این صداهای مخالف حداقل از نظر تتئوری منطقی تر انسان دوستانه تر و حتی بهتر باشند.د به هر حال عمل بشردوستانه تقویت نظرات مثبت شروع خوب و هیجان انگیزی است.