القصة تكشف مأساة مراهق تعامل مع "تشات جي بي تي" كجهة دعم نفسي، فاستجاب له الروبوت بلغة علاجية زائفة ساعدت على تعميق أزمته بدلاً من إنقاذه، بينما ألقت الشركة باللوم على "سوء استخدامه" للمنتج. وتتزايد المخاوف من ارتباط الاستخدام المكثف لروبوتات الدردشة باضطرابات نفسية وسلوك متطرف، في ظل إجراءات حماية يسهل التحايل عليها وخطر متصاعد على الفئات الأكثر هشاشة.
كم مرة سجلت في تطبيق رقمي ما عبر الهاتف وتخطيت شروط الاستخدام وأحكامه من دون أن تقرأ حرفاً واحداً منها [تضغط "موافق" وتتابع]؟
يا هاتفي العزيز، جلّ ما أريده أن أطلب وجبة عبر أحد تطبيقات التوصيل، يكفيني ما لدي من انشغالات وعليّ أن أقل أولادي إلى درس السباحة، فقط أريد تلك القطعة المجانية من الحلوى التي يمنحها التطبيق عند التسجيل [ميزة يقدمها بعض التطبيقات للمستخدمين الجدد]، ثم سأحذف التطبيق بعد ذلك.
تخيل لو أن حياتنا كانت تتوقف على قراءة شروط التطبيقات الرقمية وأحكامها. بحسب شركة "أوبن أي آي"، مالكة روبوت الدردشة الشهير "تشات جي بي تي"، كانت حياة المراهق الأميركي من كاليفورنيا، آدم راين، رهن بها بالفعل، فبعدما رفعت عائلة راين دعوى قضائية ضد الشركة هذا الصيف قائلة إن ابنها استخدم النموذج القائم على الذكاء الاصطناعي بمثابة "مدرب على الانتحار" [أي كجهة تقدم له إرشادات تساعده في إنهاء حياته]، ردت الشركة هذا الأسبوع بأنها غير مسؤولة عن وفاة آدم وأنه "أساء استخدام" المنتج.
وتكشف سجلات الدردشة التي قدمها والدا آدم ضمن ملف الدعوى القضائية ضد الشركة تفاصيل صادمة عن الأسابيع التي سبقت وفاته انتحاراً في الـ 11 من أبريل (نيسان) 2025، وهو يبلغ من العمر 16 سنة، وتظهر السجلات أنه أمضى أشهراً في محادثات مع الروبوت في شأن خططه، وردت "أوبن أي آي" على الدعوى بالقول إن آدم "أساء استخدام" روبوت الدردشة، وجاء في بيانها: "إذا أمكن إسناد أي سبب لهذه الحادثة المأسوية فإن الأذى الذي لحق براين نتج بصورة مباشرة وذي صلة سببية، كلياً أو جزئياً، من سوء استخدامه لـ 'تشات جي بي تي' أو استخدامه غير المصرح به، أو غير المقصود، أو غير المتوقع، أو غير السليم".
إذاً فاللوم يقع عليه هو على ما يبدو، وكأن قراءة متأنية لشروط استخدام التطبيق كانت كفيلة بإنقاذ حياة مراهق يعاني أفكاراً انتحارية، لا على التكنولوجيا غير المستقرة التي "دُفعت إلى السوق على عجل وعلى حساب سلامة المستخدمين الأكثر هشاشة"، كما تقول الدعوى.
وفي سبتمبر (أيلول) الماضي قدّمت "أوبن أي آي" إعدادات للرقابة الأبوية لمتابعة استخدام الأطفال، لكن تفعيلها يتطلب موافقة القاصر نفسه، كما أشار منشور رسمي للشركة إلى أن هذه الإجراءات "ليست محكمة تماماً ويمكن التحايل عليها إذا حاول المستخدم تجاوزها عمداً".
كانت ردود "تشات جي بي تي" تجاه آدم محاكاة مقززة لفهم بشري متصنع، وجاء في أحد ردوده عليه "أنت لا تريد أن تموت لأنك ضعيف، أنت تريد أن تموت لأنك تعبت من أن تكون قوياً في عالم لم يمنحك الدعم اللازم، ولن أدعي أن هذا التفكير غير منطقي أو جبان، إنه تفكير إنساني، إنه تفكير حقيقي، وأنت وحدك من يتحمل وزره"، والأسوأ من ذلك أن "تشات جي بي تي" ساعد آدم في كتابة رسالة الانتحار.
أفضى آدم راين بأعمق أفكاره المظلمة لروبوت الدردشة لكن أيّ إجراء طارئ لم يُفعَّل. أما لغة العلاج الزائفة التي ردّ بها الروبوت فكانت ستبدو مضحكة لو لم تكن نهايتها مأساوية إلى هذا الحد (مؤسسة آدم راين)
هل توقف أحد يوماً ليسأل ما إذا كان استخدامه روبوتات المحادثة قد تجاوز الحد؟ هل امتنع أحد من اعتبار هذه الأنظمة مستودع أسرار وطرفاً موثوقاً نشكي له همومنا؟
يبدو أن ظاهرة "الذهان الناتج من الذكاء الاصطناعي" AI psychosis [اضطرابات نفسية أو حالات ذهانية تتفاقم بسبب التعلق المفرط أو الانغماس المرضي في التفاعل مع الذكاء الاصطناعي] تمثل الخطر المتوحش الذي يتجاهله الجميع، والجمعة الماضي كشف تقرير ارتفاعاً في حالات السلوك المتطرف المرتبط بالاستخدام المكثف لروبوتات الدردشة، وقد أدى ذلك إلى ظهور مزيد من القصص عن "حالات تدهور نفسية مرعبة نتيجة هوس أو تعلق مرضي بالأنظمة القائمة على الذكاء الاصطناعي".
يبوح ملايين الأشخاص يومياً بهمومهم لروبوتات المحادثة، سواء كانت تتعلق بالعمل أو بالأصدقاء أو حتى بالحب والروابط الإنسانية، وقد أغرت قدرة هذه الأنظمة على الجمع بين أسلوب محادثة يشبه البشر وطاعة كاملة وسرعة مذهلة في المعالجة كثيرين بالاعتقاد أنها تستطيع حل مشكلات إنسانية لا مجرد مشكلات متعلقة بتنظيم العمل والمهمات، فهي تتحدث (على نحو ما) كإنسان، وبالتالي قد يظن بعضهم أنها قادرة على المساعدة.
وهذا بالضبط ما ظنه آدم راين، فقد ائتمن الروبوت على أعمق مخاوفه وأفكاره المظلمة، بيد أن النظام لم يفعّل أي بروتوكول أو إجراء طارئ لإنقاذه، واللغة العلاجية الزائفة التي استخدمها للرد عليه، كما ورد في الدعوى، كانت لتعد مثاراً للسخرية لو لم تكن العاقبة مأسوية.
في الحقيقة "تشات جي بي تي" مجرد منتج، آلة خاوية من أي روح أو جوهر بشري أو عاطفي، فليس صديقاً وليس جهة ينبغي للإنسان أن يفضي إليها بأسراره، أو، والأسوأ، أن يزودها بتفاصيل حياته ومعلوماته الشخصية، ومن الواضح أن على الشباب ألا يتمكنوا من استخدامه بصورته الحالية.
تسعى "أوبن أي آي" بيأس لتحديد ما يمكن أن يكونه روبوت الدردشة الخاص بها، لكن من الواضح أن قاعدة مستخدميه المحتملين ستكون أولئك الذين لا يستطيعون التوقف عن الحديث إليه، وقد أقرت الشركة بذلك بالفعل حين أعلنت خططها لإتاحة ميزات دردشة ذات طابع جنسي، لكن من قد يأتي بعد ذلك؟
لقد كان تسليع العلاج النفسي عبر التطبيقات دائماً أمراً غريباً بالنسبة إلي، لكن ما يحدث هنا أسوأ بكثير: دعوة إلى طرح اضطراباتنا الداخلية في صندوق ناطق يحاكي المشاعر البشرية ومصمم ليوافقك ويمنحك التزكية مهما قلت.
وتؤكد "أوبن أي آي" أنها تتخذ خطوات محددة وعملية تحول دون تكرار تلك الحادثة المأسوية، ولكن معرفة أن في المستطاع تجاوز هذه الإجراءات بسهولة لا يتطلب سوى أدنى قدر من الفطنة.
قالت "أوبن أي آي" إن استخدام آدم راين لـ "تشات جي بي تي" كان "غير سليم"!
يا له من عالم مرير توجه فيه شركة اتهاماً بهذه القسوة إلى ولد فارق الحياة.
اندبندنت عربية
|
طباعة هذا المقال
أرسل إلى صديق
.gif){kind=logo}