به گزارش نقطه تسلیم، با گسترش شبکههای اجتماعی در سالهای گذشته، تولید، انتشار و دسترسی به محتوا برای عموم مردم به امری بسیار آسان تبدیل شده است، این دسترسی گسترده، در کنار فرصتهای فراوانی که برای ارتباط، آموزش و تبادل اطلاعات ایجاد کرده، چالشهایی نیز به همراه داشته است؛ یکی از مهمترین این چالشها، انتشار و دسترسی به محتوای نامناسب و آسیبزا، بهویژه برای کودکان و نوجوانان، است.
کودکان و نوجوانان نیز بخش قابلتوجهی از کاربران شبکههای اجتماعی را تشکیل میدهند و به همین دلیل، موضوع حفاظت از آنها در فضای مجازی به یکی از دغدغههای مهم سیاستگذاران و نهادهای تنظیمگر در کشورهای مختلف تبدیل شده است.
در بسیاری از کشورها، مجموعهای از ابزارهای فنی، مقرراتی و نظارتی برای کاهش دسترسی کودکان به محتوای نامناسب در نظر گرفته شده است؛ از احراز سن و تنظیمات پیشفرض ایمن گرفته تا نظارت بر سامانههای پیشنهاد محتوا و استفاده از ابزارهای خودکار برای شناسایی و حذف محتوای آسیبزا؛ برای نمونه، نهاد تنظیمگر ارتباطات بریتانیا، Ofcom، در چارچوب مقررات ایمنی آنلاین خود، بر ایمنسازی فیدهای محتوایی کودکان، احراز سن و استفاده از سامانههای تعدیل محتوا تأکید کرده است.
در ایران، اما مسئله شکل متفاوتی پیدا میکند؛ دسترسی و نظارت بر سکوهای خارجی با مجموعهای از محدودیتهای حقوقی، فنی و بینالمللی مواجه است و در بسیاری از موارد، امکان تعامل مستقیم و مؤثر نهادهای داخلی با این سکوها محدود است؛ با این حال، به نظر میرسد در بحث سیاستگذاری فضای مجازی، بخش قابلتوجهی از توجه همچنان معطوف به سکوهای خارجی است؛ در حالی که سکوهای داخلی نیز نیازمند توجه جدی به موضوع کیفیت و سلامت محتوا هستند.
پرسش اصلی اینجاست: چرا نظارت بر سکوهای داخلی نباید به همان اندازه جدی گرفته شود؟
بر اساس مشاهدات نگارنده، وضعیت محتوایی برخی سکوهای داخلی، دستکم در مواردی، با انتظاری که از یک سکوی داخلی و تحت قوانین کشور میرود فاصله دارد.
چند روز پیش، در کنار فرزند یکی از بستگان نشسته بودم و متوجه شدم در یکی از شبکههای اجتماعی داخلی در حال تماشای ویدئوهای مختلف است. برخی از ویدئوهایی که در مقابل او قرار میگرفت، حاوی مضامینی درباره روابط خارج از چارچوب خانواده، خیانت، ترویج روابط میان دختران و پسران و مضامینی بود که از منظر نگارنده با ارزشها و هنجارهای فرهنگی و اجتماعی مورد تاکید در جامعه ایران همخوانی نداشت.
ممکن است گفته شود که شاید این کودک یا نوجوان، پیشتر به چنین محتواهایی علاقه نشان داده یا با مشاهده و تعامل با آنها، الگوریتم پیشنهاد محتوا را به سمت چنین مطالبی هدایت کرده باشد. این احتمال را نمیتوان نادیده گرفت.
اما پرسش مهمتری همچنان باقی است:
آیا مسئولیت یک سکوی اجتماعی صرفاً به انتشار محتوایی که کاربر درخواست کرده محدود میشود، یا پلتفرم در قبال محتوایی که الگوریتم آن بهصورت خودکار به کودکان و نوجوانان پیشنهاد میکند نیز مسئولیت دارد؟
اهمیت این پرسش زمانی بیشتر میشود که بدانیم در بسیاری از شبکههای اجتماعی، کاربر لزوماً محتوای مورد علاقه خود را بهصورت مستقیم جستوجو نمیکند؛ بلکه بخش قابلتوجهی از محتوایی که مشاهده میکند از طریق سیستمهای پیشنهاددهنده و فیدهای شخصیسازیشده در اختیار او قرار میگیرد؛ Ofcom نیز در گزارشهای خود، فیدهای شخصیسازیشده را یکی از مسیرهای اصلی مواجهه کودکان با محتوای آسیبزا معرفی کرده و بر ضرورت تنظیم الگوریتمهای پیشنهاد محتوا برای کاربران کودک تأکید کرده است.
بنابراین، اگر یکی از دلایل محدودسازی دسترسی افراد جامعه به برخی سکوهای خارجی، نگرانی درباره محتوای نامناسب و آسیبزا است، منطقی است که همین معیار در مورد سکوهای داخلی نیز با جدیت دنبال شود.
خانوادهها ممکن است به دلیل داخلی بودن یک سکو و فعالیت آن تحت قوانین کشور، با اطمینان بیشتری اجازه استفاده فرزندانشان از آن را بدهند. بنابراین اگر در چنین سکوهایی محتوای نامناسب به کودکان پیشنهاد شود، مسئله صرفاً به یک محتوای نامطلوب محدود نمیشود؛ بلکه میتواند به مسئله اعتماد خانوادهها به محیطهای دیجیتال داخلی نیز تبدیل شود.
راهکار چیست؟
حل این مسئله الزاماً به معنای حذف گسترده محتوا یا محدود کردن کلی دسترسی کاربران نیست. فناوریهای جدید، بهویژه هوش مصنوعی، میتوانند بخشی از راهحل باشند.
سکوهای داخلی میتوانند با استفاده از سامانههای هوشمند تشخیص و طبقهبندی محتوا، ویدئوها، تصاویر، متنها و حتی الگوهای رفتاری کاربران را از نظر وجود محتوای نامناسب بررسی کنند. چنین سامانهای میتواند محتوای منتشرشده را در دستههایی مانند محتوای مناسب برای کودکان، محتوای حساس و محتوای نامناسب برای افراد زیر سن قانونی طبقهبندی کند.
این فرآیند میتواند پیش از نمایش محتوا به کاربر یا هنگام انتشار آن انجام شود. در مرحله بعد، محتوایی که برای کودکان نامناسب تشخیص داده شده است، میتواند از فید کاربران کمسن حذف شود یا دستکم در سیستم پیشنهاد محتوا به آنها نمایش داده نشود.
البته هوش مصنوعی بهتنهایی راهحل کامل نیست. ترکیب هوش مصنوعی، نظارت انسانی، امکان گزارش محتوا توسط کاربران، احراز سن و تنظیم الگوریتمهای پیشنهاد محتوا میتواند چارچوب مؤثرتری برای حفاظت از کودکان ایجاد کند. گزارشهای Ofcom نیز بر ترکیب ابزارهای تعدیل محتوای خودکار و انسانی، سازوکارهای گزارشدهی و ایمنسازی سیستمهای پیشنهاد محتوا تأکید دارند.
در نهایت، هدف نباید صرفاً «حذف محتوا» باشد؛ بلکه باید ایجاد محیطی باشد که کاربر کودک، متناسب با سن خود، کمترین مواجهه ممکن را با محتوای آسیبزا داشته باشد.
این فناوریها حتی میتوانند در سکوهای داخلی مزیت دیگری نیز ایجاد کنند: امکان طراحی مدلهای بومی برای شناخت بهتر زبان، اصطلاحات و زمینه فرهنگی جامعه ایران. البته چنین سامانههایی باید با معیارهای روشن، قابل ارزیابی و همراه با سازوکار اعتراض و بازبینی انسانی طراحی شوند تا خطاهای الگوریتمی، حذف محتوای مجاز یا محدود شدن بیدلیل کاربران را به حداقل برسانند.
و در پایان…
اگر قرار است درباره سلامت فضای مجازی، حفاظت از کودکان و تناسب محتوا با فرهنگ جامعه صحبت کنیم، این دغدغه نباید فقط درباره سکوهایی باشد که خارج از کشور فعالیت میکنند.
سکوهای داخلی، پیش از آنکه مطالبهای برای جایگزینی سکوهای خارجی باشند، باید خودشان نشان دهند که میتوانند محیطی امن، سالم و قابل اعتماد برای کاربران ایرانی، بهویژه کودکان و نوجوانان، فراهم کنند.
بنابراین شاید بد نباشد بخشی از انرژی و توجهی که صرف بحث درباره سکوهای خارجی میشود، به این پرسش نیز اختصاص پیدا کند: سکوهای داخلی برای حفاظت از کودکان در برابر محتوای نامناسب، دقیقاً چه سازوکاری دارند و این سازوکار در عمل چقدر مؤثر است؟
این پرسشی است که پاسخ روشن به آن، هم برای خانوادهها و هم برای سیاستگذاران فضای مجازی اهمیت دارد./
برنامه نویس، دانشآموخته علوم سیاسی و پژوهشگر تحریمهای اقتصادی
