مجید زنجیران

فرض کنید مدیر محصول اکس (توییتر سابق) هستید. ایلان ماسک شخصاً با شما یک جلسه گرفته و گفته که عمیقاً دلش می‌خواهد توییتر فضای بهتری برای کاربران باشد. شما پرسیده‌اید: «منظورتان از “فضای بهتر” چیست؟» و او هم می‌گوید: «می‌خواهم اعصاب آدم‌ها موقع استفاده از توییتر، کم‌تر خُرد شود. می‌خواهم آدم‌ها این‌جا این‌قدر با هم جنگ و دعوا نکنند و مشغول مشت‌زنی نشوند.»

حالا این شما و این اکس!

به نظرتان برای این‌که اکس را جای کم‌دعواتری کنیم و آقای ماسک را هم راضی کنیم، چه کارهایی می‌شود کرد؟ غیر از کاهش نفرت، ایده‌ی دیگری دارید؟ سعی کنید در ذهنتان حداقل به یک ایده‌ی دیگر برسید، بعد پاراگراف بعدی را بخوانید.

• یک استراتژی، حتماً جلوگیری از انتشار نفرت است. ما در این کارگاه، همین استراتژی را انتخاب می‌کنیم.
• یک استراتژی دیگر غیر از جلوگیری از انتشار نفرت، عوض کردن موضوع شبکه اکس است. مثلاً اکس را تبدیل به یک جور لینکدین کنیم؛ شبکه اجتماعی تخصصی کار و کاریابی. یا تبدیل به نی‌نی‌سایت کنیم؛ شبکه مخصوص مادران. موضوعش از این حالت عمومی و آزاد دربیاید و محدودتر شود. برود به سمت موضوعاتی که جنجالی نباشند و مردم بر سر آن‌ها با همدیگر درگیر نشوند.

حالا برویم ببینیم چطور می‌توانیم استراتژی جلوگیری از انتشار نفرت را پیاده‌سازی کنیم.

گام اول: نفرت اینترنتی چیست؟

قبل از هرچیز بیایید ببینیم منظورمان از نفرت اینترنتی چیست.

به نظر شما تعریف نفرت اینترنتی چیست؟ هر وقت حداقل به یک پاسخ در ذهنتان رسیدید، پاراگراف بعدی را بخوانید.

چیزهایی که می‌شود به آن‌ها «نفرت اینترنتی» گفت، شامل این‌هاست:

• پست‌هایی که در آن‌ها به افراد توهین و فحاشی می‌شود
• کامنت‌های حاوی توهین و تخریب دیگران
• پیام‌های خصوصی (دایرکت) ناراحت‌کننده و توهین‌آمیز

در یک کلام: هر پست، کامنت، یا پیام خصوصی که در آن، به شخص یا اشخاصی توهین می‌شود و آن‌ها را تخریب و تحقیر می‌کند، نفرت اینترنتی است. این پیام‌ها را معمولاً کسانی می‌فرستند که به آن‌ها «ترول اینترنتی» می‌گوییم.

مثلاً این‌ها می‌توانند مصداق‌های خوبی از نفرت اینترنتی باشند (با عرض معذرت):

گام دوم: چرا می‌خواهیم نفرت اینترنتی را کاهش دهیم؟

جوابی به نظر خودتان می‌رسد؟ حداقل یک جواب را در ذهنتان در نظر بگیرید، بعد پاراگراف بعدی را بخوانید.

به چند دلیل، می‌خواهیم جلوی گردش نفرت را در شبکه بگیریم:

• نفرت اینترنتی باعث ایجاد حس بسیار بدی در مخاطب می‌شود.
• جلوی شکل‌گیری بحث و گفت‌وگوی سازنده را می‌گیرد. افراد به جای این‌که درباره‌ی موضوع بحث صحبت کنند، گارد می‌گیرند و مشغول دفاع از خودشان می‌شوند.
• نفرت باعث می‌شود خیلی از افراد حرفشان را نزنند و ترجیح بدهند سکوت کنند.

ولی باز هم چرا؟ شاید فکر کنید بدیهی است، اما نه، بدیهی نیست. «این‌که بدیهی است!» یک مغالطه است. جنبه‌ی منفی جلوگیری از انتشار نفرت چیست؟ شما ایده‌ای دارید؟

• جلوگیری از انتشار نفرت، زمینه را فراهم می‌کند که هر وقت از پست و پیام کسی خوشمان نیامد، بگوییم مصداق «نفرت» است و جلویش را بگیریم. به این صورت آزادی بیان نقض می‌شود.
• جلوگیری از انتشار نفرت اینترنتی احتمالاً ریشه‌ی نفرت را از بین نمی‌برد. بلکه فقط باعث می‌شود نفرت از این شکل و صورت کم‌خطرِ اینترنتی، به صورت‌های ناشناخته‌ی دیگری دربیاید و آسیب‌هایش بیش‌تر شود.

خب. حالا تز و آنتی‌تزمان جور شدند. وقت سنتز است. چطور دو دسته استدلال بالا (در تأیید و در رد جلوگیری از انتشار نفرت اینترنتی) را با هم جمع کنیم و به یک ترکیب معتدل برسیم؟ ایده‌ای دارید؟ در ذهنتان حداقل به یک ایده برسید، بعد بروید سراغ پاراگراف بعدی.

اِشکال اول نشان می‌دهد که ما واقعاً نیاز به یک تعریف جامع و مانع از «نفرت اینترنتی» داریم. یعنی جوری باشد که همه‌ی انواع نفرت را شامل شود و چیزی را از قلم نیندازد، و هم چیزهایی را که واقعاً مصداق نفرت نیستند، از تعریف نفرت خارج کند و کاری به آن‌ها نداشته باشد.

این‌جا باید بروید و تحقیق کنید که آیا می‌شود یک تعریف دقیق و پدر و مادر دار از نفرت اینترنتی پیدا کرد یا نه. سرچ کنید. از متخصصان بپرسید. یا اصلاً یک سَری به قوانین پلتفرم رقیب و برادر، فیسبوک بزنید.

فرض کنید بعد از تحقیقات، به تعریف مشخص و روشنی از نفرت رسیده‌ایم و حالا دیگر می‌دانیم دقیقاً چه پیامی مصداق نفرت اینترنتی است و چه پیامی نیست. وقتش است که برویم ببینیم چطور جلوی انتشار این پیام‌های نفرت‌انگیز را بگیریم، یا حداقل کمشان کنیم.

یک لحظه صبر کنید.
اگر کلاً نتوانستید تعریف دقیقی برای نفرت اینترنتی پیدا کنید، چه کار می‌کنید؟ این مسأله را بالأخره باید یک جوری حل کرد. ایده‌ای دارید؟

احتمالاً چاره‌ای نیست جز اجرا کردن همان ایده‌ی همیشگی: هیأت منصفه! همان کاری که اغلب پلتفرم‌ها انجام می‌دهند.

گام سوم: بارش فکری

بارش فکری قوانین ساده‌ای دارد. هر ایده و راه‌حلی که به ذهنتان می‌رسد، بدون قضاوت، بدون نقد، ثبت کنید. همه را بنویسید.

شما بارش فکری کنید. حداقل ۳ ایده در ذهنتان در نظر بگیرید. بعد بقیه‌ی متن را بخوانید.

ایده‌هایی که به ذهن من رسیدند این‌ها بودند:

1. ممنوع کردن ارسال الفاظ مشخص و توهین‌آمیز.
2. استفاده از AI برای تشخیص جملات نفرت‌انگیز و ممنوع کردن آن‌ها.
3. رتبه‌بندی و امتیازدهی به حساب‌های کاربری با کمک AI و shadow ban کردن اکانت‌های ترول.
4. امکان ریپورت «کاربرِ بی‌ادب».
5. کوچک نمایش دادن و کم کردن ارزش منشن‌ها و تأکید بر اهمیت خود پست‌ها؛ مشابه اینستاگرام.
6. عدم امکان منشن گذاشتن بیش از ۳ حلقه.
7. بالا بردن اهمیت صفحه شخصی کاربران. طراحی رفتار کاربران به سوی جذاب‌سازی صفحه شخصی‌شان، به جای گفت‌وگو با دیگران.
8. احراز هویت کامل از همه‌ی کاربران.
9. خود اکس به صورت منظم به کاربران نوتیفیکیشن بدهد و آداب مکالمه‌ی صحیح را یادآوری کند.

گام چهارم: ارزیابی ایده‌ها

ایده	مزیت	عیب
ممنوع کردن ارسال الفاظ مشخص و توهین‌آمیز.	به لحاظ فنی خیلی ساده است.	– کلمات دستکاری شده (مثل «ف**حـش») از قلم می‌افتند. – کلماتی که بدون قصد توهین استفاده می‌شوند (مثلاً کاربرد علمی دارند) سانسور می‌شوند. – به تدریج در گذر زمان، کلمات جدیدی برای اشاره به فحش اینترنتی ابداع می‌شوند.
استفاده از AI برای تشخیص جملات نفرت‌انگیز و ممنوع کردن آن‌ها.	چندین فاکتور را برای تعیین توهین‌آمیز بودن جمله در نظر می‌گیرد و ضریب خطای کم‌تری دارد.	– مزیت رقابتی سیستم از دست می‌رود. کاربران به شبکه‌هایی مهاجرت می‌کنند که بتوانند راحت حرف بزنند. – پیچیدگی فنی بالایی دارد. یادگیری ماشین برای تشخیص توهین در جملات، کار پیچیده‌ای است. – کاربران به تدریج راه‌هایی برای دور زدن پیدا می‌کنند.
رتبه‌بندی و امتیازدهی به حساب‌های کاربری با کمک AI و shadow ban کردن اکانت‌های ترول.	– تمرکز را بر کاربر می‌گذارد، نه پیام. کاربرهای بدسابقه محدود می‌شوند. ضریب خطای کم‌تری دارد. – جلوی پیام‌های خصوصی نفرت‌آمیز را هم می‌گیرد.	کاربرهایی که سابقه‌ی خوبی دارند، راحت‌تر می‌توانند توهین کنند.
امکان ریپورت «کاربرِ بی‌ادب».	پیچیدگی فنی ندارد.	هر ساعت تعداد بسیار زیادی ریپورت به سیستم وارد می‌شود و هزینه بالایی را تحمیل می‌کند.
کوچک نمایش دادن و کم کردن ارزش منشن‌ها و تأکید بر اهمیت خود پست‌ها؛ مشابه اینستاگرام.	راهبرد سلبی نیست و محدودیت و ممنوعیتی اعمال نمی‌کند.	– ساختار شبکه را تغییر می‌دهد و مزیت رقابتی آن را از بین می‌برد. – هزینه‌ی بالایی دارد. – همچنان می‌توان نفرت را منتقل کرد.
عدم امکان منشن گذاشتن بیش از ۳ حلقه.	این هم راهبرد سلبی نیست و ایجابی است.	– مزیت رقابتی شبکه را از بین می‌برد و آن را به یک بلاگ تبدیل می‌کند. – کاربران، بحث‌های نفرت و توهین را به دایرکت یا جاهای دیگر خواهند برد (چون بحث شروع شده و باید تمام شود؛ اثر زیگارنیک).
بالا بردن اهمیت صفحه شخصی کاربران. طراحی رفتار کاربران به سوی جذاب‌سازی صفحه شخصی‌شان، به جای گفت‌وگو با دیگران.	مشابه قبلی، سلبی نیست.	اکس را به چیزی شبیه به نسخه قدیمی فیس‌بوک تبدیل می‌کند. جذابیت شبکه از بین می‌رود.
احراز هویت کامل از همه‌ی کاربران.	دولت‌ها خیلی دوستش خواهند داشت!	خیلی از کاربران اصلاً خوششان نمی‌آید. چون مجبور به خودسانسوری می‌شوند. به شبکه‌های دیگر مهاجرت خواهند کرد.
خود اکس به صورت منظم به کاربران نوتیفیکیشن بدهد و آداب مکالمه‌ی صحیح را یادآوری کند.	محدودیتی ایجاد نمی‌کند و اخلاق‌مدارانه است.	– در میان‌مدت اثرش را از دست می‌دهد. – خیلی از افراد اصلاً اهمیتی نمی‌دهند و کار خودشان را می‌کنند.

از بین ایده‌های بالا، شاید بهترین‌شان همان سومی باشد: رتبه‌بندی و امتیازدهی به کاربران به کمک AI و تشخیص و محدود کردن اکانت‌های ترول (که امتیاز پایینی می‌گیرند).

این ایده، هم‌اکنون هم به شکل خاصی در حال اجراست. با این حال، احتمالاً شبکه‌ی اکس تمایلی ندارد که جلوی نفرت و توهین را بگیرد. بلکه بیش‌تر سیاستش را جوری انتخاب کرده که فقط محتوای مجرمانه‌ی صریح (مثلاً ترویج مواد مخدر، خودکشی، خشونت و برهنگی)، محدود شود.

شاید به عنوان یک Add-on یا یک Setting اختیاری، بشود این قابلیت را برای کاربران عرضه کرد که هرکسی شخصاً تمایل داشت، پیام‌های ترول‌ها برایش نامرئی شود و از نفرت، ایمن بماند.