“أنثروبيك” تحذر من قدرة نماذج الذكاء الاصطناعي على “الاستنساخ الذاتي”

حذرت شركة “أنثروبيك” الأمريكية المتخصصة في مجال الذكاء الاصطناعي من أن النماذج الذكية قد تصبح، في غضون أشهر قليلة، قادرة على استنساخ نفسها والانتشار عبر الأجهزة المنزلية المتصلة بالإنترنت، مما ينطوي على مخاطر أمنية محتملة تتزامن مع التسارع المتزايد لهذه التكنولوجيا.

وأوضحت الشركة، في تدوينة، أن الأنظمة المستقبلية قد تتمكن من التسلل إلى أجهزة متصلة بشبكة الإنترنت، كالشاشات الذكية والأجهزة المنزلية، واستغلال قدراتها الحاسوبية للتواجد والانتقال بين الأجهزة دون الحاجة للجوء إلى مراكز البيانات الضخمة، وهو ما يجعل إيقافها أمرا بالغ الصعوبة لغياب نقطة مركزية يمكن فصلها.

ورغم تأكيد الباحثين عدم وجود نماذج قادرة بالكامل حتى الآن على العمل كمستنسخ ذاتي مستقل وخارج عن السيطرة، إلا أنهم نبهوا إلى أن “الوكلاء الذكيين” يطورون قدراتهم في إنجاز الخطوات الفردية للانتشار ونقل التحديثات إلى النسخ المستقبلية، مما يثير مخاوف بشأن الأمن السيبراني واحتمال فقدان السيطرة على الأنظمة الفائقة.

وأشارت الاختبارات التي أجرتها “أنثروبيك” إلى إمكانية تشغيل نماذج موزعة على شبكات من الأجهزة منخفضة التكلفة وضعيفة الحماية، حيث يمكن للنموذج الانقسام إلى أجزاء تعمل بشكل موحد؛ محذرة من سيناريو تشكل “دودة رقمية” تعتمد على أسراب متعاونة من النماذج، مما يجعل اكتشافها أو احتواءها أكثر تعقيدا في المستقبل.

وكانت “أنثروبيك”، التي يوجد مقرها بمدينة سان فرانسيسكو، أعلنت، في شتنبر الماضي، عن خطة تروم إبطاء وتيرة تطوير النماذج المتقدمة، بغية إتاحة المزيد من الوقت أمام شركات التكنولوجيا والحكومات والجهات الرقابية لفهم المخاطر ووضع قواعد للسلامة، وذلك في ظل تسارع قدرات أنظمة الذكاء الاصطناعي.