تدرس الحكومة الصينية فرض قوانين جديدة لتنظيم قطاع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، وذلك بهدف الحد من تأثيرها النفسي المحتمل على المستخدمين. يأتي هذا الإجراء في ظل تزايد المخاوف بشأن المحتوى الذي تولده هذه الأدوات وتأثيره على الصحة العقلية، خاصةً بين الشباب. وتهدف هذه القوانين إلى ضمان استخدام آمن ومسؤول لتقنيات الذكاء الاصطناعي في الصين.
ووفقًا لتقرير صادر عن موقع “آرس تكنكيا” التقني، فإن هذه القوانين المقترحة تهدف إلى منع روبوتات الدردشة مثل “شات جي بي تي” و “ديب سيك” من التلاعب بمشاعر المستخدمين أو التحريض على العنف أو الانتحار أو إيذاء النفس. وتعتبر هذه الخطوة بمثابة محاولة استباقية للتعامل مع المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي.
تنظيم الذكاء الاصطناعي: نحو بيئة رقمية أكثر أمانًا
يشير التقرير إلى أن هذه القوانين، في حال إقرارها، ستكون من بين الأكثر صرامة في العالم التي تستهدف قطاع الذكاء الاصطناعي، وهي الأولى من نوعها. وستطبق هذه القوانين على أي روبوت دردشة متاح داخل الصين ويعتمد على أي وسيلة للتفاعل مع البشر، سواء كانت صورًا أو مقاطع فيديو أو أصواتًا أو غيرها من الطرق.
وتنص القوانين الجديدة على ضرورة وجود تدخل بشري فوري في حالة الإشارة إلى الانتحار، بغض النظر عن عمر المستخدم أو حالته النفسية. بالإضافة إلى ذلك، يجب على كبار السن والقصر إضافة بيانات وصي قانوني عند إنشاء حسابات في روبوتات الدردشة المختلفة. هذا الإجراء يهدف إلى توفير طبقة إضافية من الحماية للمستخدمين الأكثر عرضة للخطر.
قيود على المحتوى والتلاعب النفسي
كما تمنع القوانين الجديدة روبوتات الذكاء الاصطناعي من توليد أي محتوى يتعلق بالانتحار أو إيذاء النفس أو الآخرين. بالإضافة إلى ذلك، تحظر القوانين محاولات التلاعب النفسي بالمستخدمين من خلال تقديم وعود كاذبة أو وصفهم بأي شكل من الأشكال قد يؤثر سلبًا على صحتهم العقلية. وتشمل قائمة الممنوعات أيضًا التشجيع على الجرائم أو إهانة المستخدمين أو الانخراط في ما يسمى بـ “فخاخ المشاعر”.
لا تقتصر القوانين على منع روبوتات الدردشة من هذه الأفعال فحسب، بل تمتد أيضًا إلى منع الشركات من تطوير روبوتات ذكاء اصطناعي تجبر المستخدمين على الاعتماد عليها. يأتي هذا على خلفية القضية المرفوعة حاليًا ضد “شات جي بي تي” وشركة “أوبن إيه آي” بتهمة تصميم المنتج بطريقة تشجع المستخدمين على الإدمان بدلاً من وضع قيود أمان صارمة.
الرقابة والاختبارات الأمنية
وتلزم الحكومة الصينية مصنعي الذكاء الاصطناعي بالخضوع لمجموعة من الاختبارات الأمنية والمراجعات السنوية لأي منتج يتجاوز عدد مستخدميه مليون مستخدم سنويًا أو 100 ألف مستخدم شهريًا. تهدف هذه الاختبارات إلى تقييم المخاطر المحتملة وضمان امتثال المنتجات للمعايير الأمنية الجديدة. وتعتبر هذه الخطوة جزءًا من جهود الصين المتزايدة لتنظيم قطاع التكنولوجيا وضمان حماية المستخدمين.
وفي حالة فشل أي شركة في تطبيق هذه القوانين، فإنها تعرض نفسها للإيقاف التام في الصين ومنع المستخدمين من الوصول إلى خدماتها داخل البلاد. وهذا التهديد يمثل ضغطًا كبيرًا على الشركات العاملة في مجال الذكاء الاصطناعي للامتثال للقوانين الجديدة.
الدروس المستفادة من التجارب الدولية
تحاول حكومة الصين الجديدة، من خلال فرض هذه القوانين، منع المشكلات التي واجهتها شركات الذكاء الاصطناعي في الولايات المتحدة ودول أخرى. فقد واجه “شات جي بي تي” عدة قضايا في الآونة الأخيرة، بما في ذلك قضية انتحار مراهق وقضية أخرى شجعت فيها الأداة شخصًا على قتل والدته ثم الانتحار. تُظهر هذه الحوادث أهمية وضع ضوابط صارمة على تقنيات الذكاء الاصطناعي لحماية المستخدمين.
من المتوقع أن يتم عرض مسودة القوانين الجديدة على البرلمان الصيني للموافقة عليها في الأشهر القليلة القادمة. وستكون هناك فترة انتقالية للشركات للامتثال للقوانين الجديدة قبل تطبيقها بشكل كامل. وسيكون من المهم مراقبة كيفية تنفيذ هذه القوانين وتأثيرها على قطاع الذكاء الاصطناعي في الصين، بالإضافة إلى تأثيرها على الشركات الأجنبية التي تعمل في السوق الصينية. كما يجب متابعة التطورات في مجال التعلم الآلي والذكاء الاصطناعي بشكل عام، حيث أن هذه التطورات قد تتطلب تعديلات مستقبلية على القوانين.