بدأت شركة أوبن أي آي يوم الاثنين طرح ضوابط أبوية على نسخة الويب والهاتف من شات جي بي تي، وذلك عقب دعوى قضائية رفعها والدان لمراهق توفي منتحرًا بعد أن زعم أن روبوت الدردشة قدم له إرشادات حول أساليب إيذاء النفس.
آلية عمل الضوابط الأبوية
تتيح الضوابط الجديدة للآباء والمراهقين ربط حساباتهم عبر دعوة متبادلة، ولا يتم تفعيلها إلا بموافقة الطرفين. وتشمل هذه الأدوات:
تقليل التعرض للمحتوى الحساس.
التحكم في ما إذا كان شات جي بي تي يتذكر المحادثات السابقة.
تحديد إمكانية استخدام المحادثات في تدريب نماذج الشركة.
فرض «ساعات صمت» تمنع الوصول في أوقات معينة.
تعطيل بعض الميزات مثل وضع الصوت أو إنشاء الصور وتحريرها.
خصوصية المحادثات
في حين أكدت أوبن أي آي أن الآباء لن يتمكنوا من الاطلاع على نصوص المحادثات الخاصة بأبنائهم.
لكن في حالات نادرة، إذا رصدت الأنظمة أو المراجعين المدربين مؤشرات خطر جسيم على السلامة. فقد يتم إخطار الآباء بالمعلومات الضرورية فقط لضمان حماية المراهق.
استخدام واسع بين المراهقين
أوضحت الشركة أن عدد مستخدمي منتجات شات جي بي تي النشطين أسبوعي يبلغ حوالي 700 مليون مستخدم. كما تعمل على بناء نظام تنبؤ بالعمر لتحديد ما إذا كان المستخدم دون 18 عام، بحيث يتم تفعيل إعدادات خاصة بالمراهقين تلقائي.
ضغوط تنظيمية وتدقيق متزايد
تأتي هذه الخطوة في ظل تدقيق متزايد من الجهات التنظيمية الأمريكية بشأن التأثيرات السلبية المحتملة لروبوتات الدردشة. وكانت وكالة رويترز قد ذكرت في أغسطس الماضي أن قواعد ميتا سمحت بمحادثات عاطفية مع الأطفال.
ميتا تتخذ إجراءات مشابهة
من جانبها، أعلنت ميتا الشهر الماضي عن ضوابط جديدة لحماية المراهقين في منتجاتها الخاصة بالذكاء الاصطناعي، تضمنت:
تدريب الأنظمة على تجنب المحادثات العاطفية.
منع مناقشة إيذاء النفس أو الانتحار مع القاصرين.
فرض قيود مؤقتة على بعض الشخصيات الافتراضية.