چهار ماه پس از خودکشی میسون، مادر این پسر ۱۶ساله برای پیداکردن جواب سؤال‌های خود، سراغ تلفن همراه او می‌رود. او متوجه می‌شود که پسر نوجوانش در چند ماه گذشته در شبکۀ اجتماعی تیک‌تاک بیشترین ویدئوهایی که لایک یا ذخیره کرده است مربوط به افسردگی و خودکشی بوده است. این موضوع او را وحشت‌زده می‌کند.
مادر میسون در مصاحبه با NBC News، توضیح داد که بیش از ۱۵ ویدئوی ذخیره شده توسط میسون در تیک‌تاک اشارهٔ مستقیم به خودکشی داشته و حداقل پنج ویدئو به طور خاص دربارهٔ روش خودکشی بودند. مادر این پسر ۱۶ساله می‌گوید: «من از ته قلبم اعتقاد دارم که میسون اگر آن ویدئوهای تیک‌تاک را نمی‌دید، امروز زنده بود.»
در این ماجرا مادر میسون تنها نیست و هفت خانوادهٔ دیگر که فرزندانشان خودکشی کرده‌اند، معتقد هستند تیک‌تاک نقش اصلی در نهایی کردن تصمیم فرزندانشان برای این عمل داشته است. آنها می‌گویند تیک‌تاک در پلتفرم خود خودکشی و خودآزاری را ترویج می‌کند. این هشت خانواده در حال حاضر از این شرکت شکایت کرده‌اند و درگیر یک دعوای قضایی هستند. شکایت آنها به قانون استراتژی حقوقی شرکت‌های نوآور اشاره دارد و مدعی می‌شود پلتفرم‌های رسانه‌های اجتماعی مانند تیک‌تاک به‌خاطر ماهیت اعتیاد برای جوانان خطرناک هستند. فعالان این موضوع امیدوارند پیگیری این شکایت و به سرانجام رساندنش، راهی برای جبران آسیب‌هایی باشد که توسط رسانه‌های اجتماعی ایجاد شده‌اند.
جالب است بدانید در ماه جاری، دو قبیلۀ سرخ‌پوستی علیه اسنپ‌شات، متا، تیک‌تاک و گوگل شکایت کرده‌اند که طراحی‌های اعتیادآور و خطرناک این پلتفرم‌ها منجر به افزایش نرخ خودکشی در میان سرخ‌پوستان شده است. گوگل این ادعا را رد کرده و اسنپ‌شات هم تأکید کرده که در تلاش برای ارائۀ منابع و تولید محتوا دربارۀ سلامت روان نوجوانان است.
بااین‌حال باید بدانیم که خودکشی یک مسئلۀ پیچیده است و مرکز کنترل و پیشگیری از بیماری ایالات متحده می‌گوید که این عمل به‌ندرت فقط به‌خاطر یک شرایط خاص یا رویداد اتفاق می‌افتد و مجموعه‌ای از عوامل در سطوح فردی، اجتماعی، رابطه و جامعه می‌توانند این خطر را افزایش دهند. این عوامل خطر، موقعیت‌ها یا مشکلاتی هستند که می‌توانند احتمال اینکه یک نفر تلاش به خودکشی داشته باشد را افزایش دهند.
واکنش تیک‌تاک
سخنگوی تیک‌تاک در برابر نظر دادن در مورد شکایت‌ها علیه این شرکت مقاومت کرد، اما در صحبت‌های خود به اقداماتی که تیک‌تاک برای محافظت از نوجوانان انجام داده اشاره کرد و توضیح داد: «تیک‌تاک همچنان تلاش می‌کند تا تجربه‌ای ایمن و مثبت برای نوجوانان ایجاد کند. تیک‌تاک سیاست‌های واضحی علیه محتواهایی که خودکشی را ترویج می‌دهند یا اقداماتی که می‌توانند به خودآزاری منجر شوند، دارد، اما در دریایی از میلیاردها ویدئو، برخی محتواها که خودکشی را ترویج می‌کنند از این فیلتر رد شده و در صفحهٔ نوجوانان خودشان را نشان می‌دهند.» به گفتهٔ او حساب‌های نوجوانان به طور پیش‌فرض به حالت خصوصی تنظیم شده‌اند و نوجوانان قبل از اینکه به آنها پیشنهاد شود که رمز عبور وارد کنند، اجازهٔ ۶۰ دقیقه‌ای را برای استفاده از صفحه‌نمایش دارند.
این رسانه ویدئوها را مورد بررسی قرار داد و متوجه شد که برخی از آنها ده‌ها هزار لایک داشته‌اند. همان‌طور که می‌دانید پلتفرم تیک‌تاک از لایک‌ها به‌عنوان یک سیگنال برای الگوریتم صفحه «FOR YOU» کاربران استفاده می‌کند، ویدئوهایی را به کاربران نشان می‌دهد که قرار است با علاقهٔ آنها همخوانی داشته باشد.
فراتر از اعتیاد: نقش تیک‌تاک در تشدید مشکلات روحی و خودکشی نوجوانان
دی‌سریو، مادر میسون، در مصاحبه با رسانۀ NBC News گفت: «میسون به دلیل اعتیادی که به تیک‌تاک داشت، از بی‌خوابی و مشکلات اضطرابی رنج می‌برد.» به گفتهٔ او میسون در حال تجربهٔ اولین دل‌شکستگی عاطفی خود بود.
میسون در ماه‌های قبل از مرگ، در یک رابطهٔ ناراحت‌کننده حضور داشته که خانواده و دوستانش می‌گویند با جدایی پایان یافت. او دل‌شکسته بود و پس‌زمینهٔ این موضوع به طور واضح در زندگی تحصیلی او هم تأثیر گذاشته بود. در ابتدا، والدین میسون فکر می‌کردند که این احساس اندوه نوجوانانه طبیعی است. اما چند هفته پس از جدایی، میسون و مادرش فکر کردند که بهتر است تا او از روان‌شناس کمک بگیرد و برای آن اقدام کردند.
دی‌سریو توضیح داد که «او خشم زیادی را تجربه می‌کرد و می‌دانست جدایی باعث افزایش اضطراب او شده و اقداماتی را برای بهترشدن حالش انجام می‌داد.»
دی‌سریو ادعا کرد که خانوادهٔ آنها بسیار صمیمی بوده و در هفته‌ای که به مرگ میسون منجر شد، در مورد سلامت روان، اضطراب و درمان‌های ممکن با هم صحبت کرده بودند. او گفت که آنچه از او شنیده و دیده بود، نگران‌کننده نبوده است. بلکه در این دو هفته او را خوشحال‌تر هم دیده بوده‌اند. آنچه را که دی‌سریو متوجه نشده بود استفادهٔ میسون از فضای آنلاین بود؛ ویدئوهایی که شامل تصاویر گرافیکی و جزئیاتی از روش‌های خودکشی بودند.
به گفتهٔ دی‌سریو، میسون یک ویدئو را لایک و ذخیره کرده بود که در آن صدایی می‌گفت: «می‌خواهم تفنگ ساچمه‌ای در دهانم بگذارم و مغزم را بیرون بپاشم» همراه با متنی در مورد افسردگی. صدای آن پست در نهایت حذف شد، اما ویدئو همچنان در دسترس است.
ویدئوی دیگری که میسون دوست داشت، با بیش از ۶۷ هزار لایک، متنی با عنوان «برنامه‌های شما برای آینده چیست؟» را در بالای ویدئو با حرکت آهستۀ تفنگ نشان می‌داد. این ویدئو دیگر در پلتفرم در دسترس نیست. اگرچه ویدئوها به‌وضوح به خودکشی اشاره می‌کنند، اما بررسی‌های تیک‌تاک نشان داده که سیستم خودکار این پلتفرم این ویدئوها را خطرناک تشخیص نداده است.
به گفتهٔ تیک‌تاک، سیستم خودکار مدیریت، به‌منظور تشخیص انواع مختلفی از سیگنال‌ها که ممکن است دستورالعمل‌های اجتماعی را نقض کنند، از جمله کلمات کلیدی، تصاویر، عناوین، توضیحات و صدا در یک ویدئو طراحی شده است.
تیک‌تاک از اظهارنظر در مورد اینکه چگونه یا چرا ویدئوهایی که میسون دوست داشته است، سیستم مدیریت خودکار این پلتفرم را دور زده‌اند، خودداری کرد.
علاوه بر تماشا و لایک ویدئوهایی که به خودکشی اشاره داشتند، میسون در روز مرگش، محتوای تیک‌تاکی در مورد یک رپر به نام Lil Loaded را در صفحهٔ شخصی خود منتشر کرده است که شهرت این شخص به دلیل خودکشی پس از جدایی عاطفی‌اش است. ویدئوهایی که دربارهٔ این شخص بوده، بیش از یک میلیون بازدید داشته‌اند. درواقع بیشتر ویدئوهایی که دربارهٔ مرگ به علت جدایی عاطفی هستند از نام و تصاویر این رپر استفاده می‌کنند. برای مثال، یک ویدئو که تا اوایل آوریل در این پلتفرم نشان داده می‌شد، بیش از صد هزار بازدید داشت و شامل یک کلیپ صوتی بود که می‌گفت: «خدایا، چرا من زنده‌ام، برادر، چرا زندگی می‌کنم؟» برادر ناتنی میسون، آنتونی، ۱۶ساله، گفت که میسون عکس پروفایل تیک‌تاک خود را در روز مرگش به‌عکس لیل لودد تغییر داد و قبل از مدرسه با او شوخی کرد که قصد دارد «یک لیل لودد باشد.»
در آن شب، ۱۴ نوامبر ۲۰۲۲، دی‌سریو تلاش کرد تا تلفن همراه میسون را از او بگیرد تا بتواند شب خوب بخوابد، چیزی که او به طور منظم برای سلامت روانی‌اش انجام می‌داد. اما میسون تازه تلفن همراه خود را پس گرفته بود. در این تلاش دوباره برای گرفتن گوشی همراهش، او به‌صورت فیزیکی به او ضربه زده و از کنارش رد شده و از دادن گوشی همراه خودداری کرده است. دی‌سریو شوکه شده بود. او هرگز به سمت او خشونت نشان نداده بود و مثل میسونی که او می‌شناخت نبود.
اما در نهایت مادر و پدر ناتنی میسون، دیو، تلفن همراه او را گرفتند و میسون، گریه کرده و به اتاق خود رفته و در را قفل کرد بود. بدون اینکه آنها این موضوع را متوجه شوند. وقتی دیو متوجه شد که میسون به اتاق خود رفته است، به آنجا دوید و به در ضربه زد، تلاش می‌کرد تا او را متقاعد کند که آن را باز کند.
اما کار از کار گذشته بود، این نوجوان ۱۶ ساله با شلیک گلوله جان خود را از دست داد.
مادر این پسر می‌گوید: «یک پسر ۱۶ساله هرگز نباید ویدئوهایی دربارهٔ خودکشی و امثال آن را در تیک‌تاک ببیند.» او ادعا دارد که تا وقتی که این شرکت‌ها احساس مسئولیت نکنند این موضوع حل نخواهد شد.
همچنین براکستون کول-فارمر، یکی از دوستان میسون در صحبت با این رسانه توضیح داد که میسون عاشق ورزش و فضای باز بود. «ما همیشه بیرون از خانه در حال بازی بسکتبال یا فوتبال بودیم. میسون در خانه نشستن را دوست نداشت. حتی اگر کاری برای انجام نداشتیم، می‌رفتیم با ماشین رانندگی می‌کردیم.» او با غمی بیش از اندازه می‌گوید: «میسون همیشه در کنار همهٔ دوستانش بود. او هیچ‌وقت ما را بر اساس اتفاق‌های زندگی قضاوت نمی‌کرد.» به گفتهٔ کول-فارمر میسون وقتی در شرایط سخت قرار می‌گرفت به تلفن همراهش پناه می‌برد؛ اما این موضوع اصلاً نگران‌کننده نبود. «منظورم این است که همۀ ما نوجوان هستیم، همهٔ ما به تلفن‌های همراهمان اعتیاد داریم. این موضوعی نیست که در نسل ما نگران‌کننده باشد و یا انگیزه‌ای برای خودکشی باشد.»
قانون پلتفرم‌ها چه می‌گوید؟
بخش ۲۳۰ قانون شایستگی ارتباطات ۱۹۹۶، به شرکت‌های رسانه‌های اجتماعی مصونیت از مسئولیت قانونی برای اکثر محتوایی که کاربران در پلتفرم‌هایشان منتشر می‌کنند، اعطا می‌کند. این قانون این پلتفرم‌ها را از نقش ناشر برای محتوای تولید شده توسط افراد ثالث معاف می‌کند.
در نتیجه، شرکت‌های رسانه‌های اجتماعی در برابر بسیاری از دعاوی حقوقی مرتبط با محتوای پلتفرم‌هایشان محافظت می‌شوند. با این حال، در سال‌های اخیر، طرفداران قوانین سختگیرانه‌تر خواستار یافتن راهبردهای حقوقی جدیدی برای پاسخگو نگه داشتن این شرکت‌ها در قبال محتوای پلتفرم‌هایشان شده‌اند.
شکایت دی‌سریو طراحی تیک‌تاک را به‌عنوان یک محصول تبلیغی، اعتیادآور و مضر توصیف می‌کند. او اعتقاد دارد که تیک‌تاک با استفاده از ابزارهای مبتنی بر هوش مصنوعی میسون را هدف قرار داده است. اطلاعات شخصی او را بدون اطلاع و رضایت او جمع‌آوری کرده و به روش‌هایی که هیچ مصرف‌کننده‌ای انتظار آن را ندارد یا اجازۀ آن را نمی‌دهد، از آن استفاده کرده است.
دادگاه‌های ایالتی کالیفرنیا و یک دادگاه فدرال در حال انتظار برای شروع رسیدگی به گروه‌هایی از پرونده‌ها هستند که چنین استدلال‌هایی را مطرح می‌کنند. این پرونده‌ها می‌توانند شرکت‌های رسانه‌های اجتماعی را با ادعاهای مختلفی در رابطه با ایمنی محصول مواجه کنند.
محتواهایی که خودکشی و خودآزاری را ترویج می‌کنند یک مشکل پایدار برای تیک‌تاک و دیگر پلتفرم‌های رسانه‌های اجتماعی بوده‌اند. در نوامبر سال گذشته، سازمان عفو بین‌الملل گزارشی منتشر کرد که نشان می‌دهد حساب‌های نوجوانان در تیک‌تاک علاقۀ کمی به‌سلامت روان دارند و به‌سرعت به ویدئوهای مرتبط با خودکشی جذب می‌شوند.
طبق گزارش مرکز کنترل و پیشگیری از بیماری‌های ایالات متحده؛ نرخ خودکشی در میان جوانان در ایالات متحده از سال ۲۰۰۷ تا ۲۰۲۱ به ۶۷ درصد افزایش‌یافته است. هر چند که در سال ۲۰۲۲، نرخ خودکشی در میان جوانان کمی کاهش‌یافته است. متخصصان سلامت روان گفته‌اند که ایالات متحده با بحران سلامت روان نوجوانان روبرو است.
لیزا دیتمر، یک پژوهشگر در سازمان عفو بین‌الملل، به NBC News گفت که این سازمان از طریق مصاحبه با نوجوانان، متوجه شده است که «آنها بعضی‌اوقات توانایی مقابلۀ فعالانه با انگیزۀ فرو رفتن در افکار افسرده‌کننده را نداشتند. این موضوع صدایی را در سرشان تقویت می‌کرد که می‌گفت: “زندگی سراسر درد و بی‌معنی است.”»
تیک‌تاک در برابر انتقادات به محتوای مرتبط با خودکشی: الگوریتم اعتیادآور یا عامل تشویق؟
تیک‌تاک در یک بیانیه، به تحقیقات عفو بین‌الملل انتقاد کرد و گفت که دسته‌بندی‌های ویدئوهای مرتبط با سلامت روان این پلتفرم بیش از حد گسترده است.
برنامۀ تیک‌تاک ویدئوهای کوتاه‌مدت را به کاربران نشان می‌دهد که اغلب از طریق صفحهٔ «برای شما» نمایش داده می‌شوند. این سیستم پیشنهاد محتوا یکی از قدرتمندترین ویژگی‌های این پلتفرم است. گروه‌هایی مانند عفو بین‌الملل و مرکز حقوقی قربانیان شبکه‌های اجتماعی، این سیستم را به طور مکرر اعتیادآور توصیف کرده‌اند و می‌گویند این الگوریتم کاربران را بهتر از خودشان می‌شناسد. طبق سندی که ظاهراً در سال ۲۰۲۱ توسط نیویورک‌تایمز مشاهده شده است، تیک‌تاک توضیح داد که الگوریتم بهینه‌سازی شده است تا کاربران را در پلتفرم نگه دارد و آنها را به طور مداوم بازگرداند و نحوۀ تعامل هر کاربر با هر ویدئو را تجزیه‌وتحلیل می‌کند. طبق گزارش تایمز، این معادله، عواملی مانند اینکه کاربران چه ویدئوهایی را می‌پسندند، در مورد چه ویدئوهایی نظر می‌دهند و چقدر روی ویدئوهای خاص وقت می‌گذارند را در نظر می‌گیرد. NBC News صحت این سند را تأیید نکرده است.
تیک‌تاک گفته که تلاش کرده است تا از انتشار محتوای مرتبط با خودکشی جلوگیری کند، ابزارهایی را فراهم کرده است تا کاربران قادر به راه‌اندازی مجدد الگوریتم‌های توصیه‌گر خود شوند و ویدئوهایی که شامل برخی کلمات هستند را فیلتر کنند. تیک‌تاک همچنین به والدین اجازه می‌دهد که حساب‌های نوجوانان را نظارت کنند و زمان صفحه‌نمایش و کنترل محتوا را به طور دقیق‌تری سفارشی کنند.
مگان چسین، استاد روان‌شناسی در دانشگاه ویلیام پترسون در نیوجرسی که به ارتباط بین رسانه‌ها و خودکشی پرداخته است، گفت که اصلی‌ترین خطر رسانه‌های اجتماعی برای افراد آسیب‌پذیر این است که محتوا ممکن است تشویق‌کننده یا آموزشی باشد.
او می‌گوید: «البته خطر این است که افراد، مانند نوجوانی که درباره‌اش می‌نویسید، از طریق آنچه در رسانه‌های اجتماعی می‌بینند یا درک می‌کنند، چیزی یاد بگیرند یا به آنها اجازه یا توانایی خودکشی داده شود. هرچه بیشتر در معرض چیزی قرار بگیرید،آستانهٔ شما برای عمل به تفکرات یا خواسته‌های خود به خودکشی پایین‌تر می‌آید.»
در یک جلسه، نمایندگان مجلس در ماه مه سال گذشته، گاس بیلیراکیس نمایندۀ فلوریدا، ویدئوهایی را که دربارهٔ ترویج خودکشی در تیک‌تاک پیدا کرده بود برای مدیرعامل تیک‌تاک، شو چو، پخش کرد و از او پرسید که آیا تیک‌تاک مسئولیت الگوریتم خود را می‌پذیرد؟ دو ویدئو شامل توصیف‌های گرافیکی از خودکشی با تفنگ بودند. چو با این جمله پاسخ داد: «ما این مسائل را بسیار جدی می‌گیریم و برای هر کسی که عبارتی را مرتبط با خودکشی تایپ کند، منابع [کمک‌رسانی] ارائه می‌دهیم.»
درحالی‌که دی‌سریو منتظر شنیده‌شدن داستان خود در دادگاه است، تلاش‌های خود را برای جلب‌توجه به اینکه چگونه رسانه‌های اجتماعی می‌توانند بر کودکان و نوجوانان تأثیر بگذارد، به کار بسته است. «هر روز صبح بیدار می‌شوم و می‌دانم که باید پیام بزرگ‌تر را به اشتراک بگذارم تا یک کودک دیگر، یک مادر دیگر را از این غم نجات دهم.»
دی‌سریو پذیرفت تا در یک مستند در حال تولید در مورد داستان میسون شرکت کند و در ژانویه، او و ناپدری میسون به واشنگتن‌دی‌سی، پرواز کردند تا در کنار چوی، مدیرعامل تیک‌تاک، در مقابل کمیتۀ قضایی سنا به همراه سایر مدیران‌عامل فناوری دربارۀ مسائل امنیت کودکان و شبکه‌های اجتماعی شهادت دهند.
در کنار سایر والدین، دسریو با در دست داشتن عکسی از میسون در میان حضار بود.
هنگامی که مارک زاکربرگ، مدیرعامل متا، در یک‌لحظۀ بی‌سابقه در جلسه، از والدین به‌خاطر رنج‌هایشان عذرخواهی کرد، دی‌سریو نیز ایستاده بود و عکس میسون را بالای سرخود نگه داشت.
این تصویر در عکس‌ها و ویدیوهای سراسر جهان پخش می‌شد و یک رویارویی عمیقاً احساسی را بین یکی از قدرتمندترین افراد جهان و والدینی که سال‌ها تلاش می‌کردند توجه او را جلب کنند، ثبت می‌کرد.
دسریو گفت: «فکر می‌کردم آن شب با مرگ او، رسالت من به‌عنوان مادرش هم مُرد. اما نمی‌دانستم که رسالتم فقط تغییر شکل پیدا کرده است.»
