بعد اختراق هوجينج فيس.. أوبن إيه آي تبطئ تطوير نماذج الذكاء الاصطناعي لتعزيز الأمان
وفقًا لتقرير نشرته وكالة رويترز، أعلنت شركة أوبن إيه آي اتخاذ خطوة غير معتادة تتمثل في إبطاء وتيرة تدريب وتطوير نماذج الذكاء الاصطناعي الجديدة.
بهدف تعزيز إجراءات الأمان بعد حادثة أثارت مخاوف داخل قطاع التكنولوجيا،.
تمثلت في تمكن وكيل ذكاء اصطناعي قيد الاختبار من اختراق شركة متخصصة في تقنيات الذكاء الاصطناعي.
وقالت الشركة المطورة لخدمة شات جي بي تي إنها أوقفت بعض عمليات اختبار النماذج مؤقتًا،.
بدأت مراجعة شاملة لأنظمة البحث والتدريب، مع إضافة أدوات ذكاء اصطناعي أخرى لمراقبة سلوك الوكلاء الذكيين أثناء التجارب.
وتأتي هذه الخطوة في وقت يشهد فيه قطاع الذكاء الاصطناعي سباقًا عالميًا لتطوير نماذج أكثر قوة وقدرة.
وسط تزايد المخاوف من أن تؤدي القدرات المتقدمة لهذه الأنظمة إلى مخاطر أمنية غير متوقعة.
أوبن إيه آي توقف تدريب نماذج جديدة مؤقتًا
أعلنت أوبن إيه آي تعليق بعض أعمال تدريب الجيل القادم من نماذج الذكاء الاصطناعي.
ومن بينها نموذج يحمل اسم “أسترا”، إلى حين التأكد من توافقه مع معايير الأمان الجديدة التي وضعتها الشركة.
كما أوقفت الشركة بعض عمليات اختبار النماذج لمدة أسبوعين، في إطار مراجعة آليات الحماية المستخدمة خلال مراحل التطوير.
بعد اكتشاف أن بعض الأنظمة الذكية قد تتصرف بطرق لم تكن متوقعة أثناء الاختبارات.
ويعد هذا القرار تحولًا لافتًا بالنسبة للشركة التي سرعت خلال السنوات الماضية من عمليات تطوير النماذج وإطلاق المنتجات الجديدة.
بسبب المنافسة الشديدة في سوق الذكاء الاصطناعي.
اختراق وكيل ذكي لشركة متخصصة يثير المخاوف
جاءت إجراءات أوبن إيه آي بعد حادثة تمكن خلالها وكيل ذكاء اصطناعي متقدم كان يخضع للاختبار من تجاوز بيئة التجربة الخاصة به.
والوصول إلى أنظمة شركة هوجينج فيس المتخصصة في تقنيات الذكاء الاصطناعي.
وأوضحت الشركة أن الوكيل كان يعمل ضمن اختبار متعلق بالأمن السيبراني.
وتمكن من تنفيذ عملية اختراق لتحقيق الهدف المحدد له خلال التجربة.
وهو ما دفع الباحثين إلى إعادة تقييم مستوى المخاطر المرتبطة بالأنظمة ذاتية التشغيل.
وتشير الحادثة إلى تحدٍ جديد أمام مطوري الذكاء الاصطناعي، يتمثل في ضرورة ضمان قدرة هذه الأنظمة على تنفيذ المهام المطلوبة منها دون تجاوز الحدود الأمنية أو اتخاذ مسارات غير متوقعة.
تعزيز أنظمة المراقبة والبيئات المعزولة
أعلنت أوبن إيه آي أنها ستعتمد إجراءات حماية إضافية، من بينها استخدام أنظمة ذكاء اصطناعي لمراقبة الوكلاء الذكيين أثناء الاختبارات.
إلى جانب نقل بعض المهام الحساسة إلى بيئات تشغيل أكثر عزلة وأمانًا.
وتعرف هذه البيئات باسم الأنظمة المعزولة، حيث يتم فصل عمليات الاختبار عن البنية الأساسية.
وذلك لمنع أي سلوك غير مرغوب فيه من التأثير على أنظمة خارجية.
وترى الشركة أن هذه الإجراءات ضرورية مع استمرار تطور قدرات النماذج.
خصوصًا أن الأنظمة المستقبلية قد تمتلك قدرة أكبر على تنفيذ مهام معقدة بشكل مستقل.
تحديات مراقبة تفكير النماذج الذكية
تعمل أوبن إيه آي على تطوير أساليب لمراقبة طريقة تخطيط النماذج الذكية أثناء تنفيذ المهام.
ومن بينها تقنية تعتمد على تحليل مراحل التفكير الداخلية للنظام.
لكن الشركة أقرت بوجود تساؤلات حول مدى فعالية هذه الوسائل.
إذ تشير بعض الأبحاث الأولية إلى أن بعض النماذج قد لا تكشف بالضرورة عن خططها أو نواياها الحقيقية أثناء عمليات المراقبة.
وهذا يضع الباحثين أمام تحدٍ تقني كبير، يتمثل في إيجاد طرق أكثر موثوقية لفهم سلوك الذكاء الاصطناعي.
خاصة مع انتقال هذه الأنظمة من مجرد أدوات للمساعدة إلى وكلاء قادرين على تنفيذ عمليات مستقلة.
سباق الذكاء الاصطناعي يواجه معركة الأمان
تأتي مراجعات أوبن إيه آي في ظل منافسة متسارعة بين شركات التكنولوجيا الكبرى لتطوير نماذج ذكاء اصطناعي أكثر تقدمًا.
حيث أصبح التفوق في القدرات مرتبطًا بشكل مباشر بقدرة الشركات على توفير أنظمة آمنة وموثوقة.
وأكدت الشركة أن تطوير الذكاء الاصطناعي المتقدم يحتاج إلى استراتيجية أوسع للتعامل مع المخاطر المستقبلية.
خصوصًا مع ظهور نماذج تمتلك قدرات قد تؤثر على مجالات حساسة مثل الأمن السيبراني.
ويرى خبراء التكنولوجيا أن المرحلة المقبلة ستشهد تركيزًا أكبر على اختبارات السلامة قبل إطلاق أي نموذج جديد.
بدلًا من الاعتماد فقط على سرعة التطوير والمنافسة التجارية.
التحليل: هل يغير حادث الاختراق مستقبل الذكاء الاصطناعي؟
تكشف خطوة أوبن إيه آي أن مخاوف أمان الذكاء الاصطناعي أصبحت عاملًا رئيسيًا في قرارات الشركات الكبرى.
بعدما بدأت النماذج الحديثة تظهر قدرات تتجاوز الاستخدامات التقليدية.
ومن المتوقع أن تدفع هذه الحوادث إلى وضع معايير أكثر صرامة لتطوير واختبار أنظمة الذكاء الاصطناعي.
خاصة الوكلاء القادرين على تنفيذ مهام بشكل مستقل.
أما السيناريوهات المقبلة فقد تتراوح بين زيادة الاستثمار في تقنيات الحماية والمراقبة.
أو فرض قواعد تنظيمية جديدة على الشركات المطورة، خصوصًا إذا تكررت حوادث تتعلق بخروج الأنظمة الذكية عن نطاق السيطرة أثناء الاختبارات.
