تتزايد المخاوف داخل قطاع الذكاء الاصطناعي من تداعيات هجمات إلكترونية واسعة قد تستهدف قطاعات حيوية، في وقت تستعد فيه شركات كبرى، بينها "أوبن إيه آي" و"أنثروبيك"، لسيناريوهات قد تتجاوز آثارها الجانب التقني، لتطال الخدمات الأساسية والاقتصاد وثقة الجمهور بهذه التكنولوجيا.
وبحسب تقرير نشره موقع "أكسيوس"، تناقش شركات الذكاء الاصطناعي احتمالات وقوع حوادث خطيرة، بما يشمل الاستعداد لتداعياتها الاقتصادية والاجتماعية والسياسية، في ظل توقعات لدى خبراء في الصناعة بإمكانية وقوع حادث كبير خلال الأشهر الستة إلى الاثني عشر المقبلة، مع طرح الهجمات الإلكترونية واسعة النطاق أحد السيناريوهات المحتملة.
وتتركز أبرز المخاوف على إمكانية توظيف أدوات الذكاء الاصطناعي في شن هجمات إلكترونية تعطل الأنظمة المالية وشبكات الإنترنت وإمدادات الكهرباء والمياه، إلى جانب مخاطر استغلال جهات خبيثة للنماذج المتاحة للجمهور، أو خروج بعض وكلاء الذكاء الاصطناعي عن نطاق السيطرة.
وأشار التقرير إلى تقارير تتعلق باستهداف مؤسسات مالية في كوريا الجنوبية باستخدام أدوات الذكاء الاصطناعي.
كما نقل عن شركة الأمن السيبراني "كراود سترايك" رصد استخدام جهات هجومية أدوات ونماذج، من بينها "ديب سيك" و"كلود كود"، في أنشطة مرتبطة باستهداف مؤسسات مالية والتعامل مع بيانات مسروقة.
ولا تقتصر المخاطر على الأضرار المباشرة التي قد تصيب الأنظمة الرقمية، إذ تخشى الشركات أن يؤدي وقوع حادث كبير إلى تراجع ثقة الجمهور بالذكاء الاصطناعي، وتصاعد الانتقادات الموجهة إلى قادة القطاع، خصوصًا بشأن قدرتهم على ضمان الاستخدام الآمن للأنظمة المتقدمة.
وفي موازاة الاستعداد للمخاطر التقنية، تبحث الشركات تداعيات احتمال فرض قيود سياسية وتشريعية جديدة عقب وقوع أي حادث خطير.
ووفقًا للتقرير، تشمل السيناريوهات المطروحة إطلاع أعضاء الكونغرس الأمريكي على المخاطر المحتملة، والاستعداد لردود فعل شعبية قد تدفع نحو تشديد الرقابة على القطاع.
وتتضمن المقترحات المطروحة تعليق تطوير بعض أنظمة الذكاء الاصطناعي المتقدمة، وفرض قيود على تطوير الذكاء الاصطناعي الفائق، إلى جانب بحث آليات تتيح إيقاف بعض الأنظمة عند الضرورة. لكن تطبيق آلية إيقاف فعالة على جميع الأنظمة يظل موضع شك، بسبب اختلاف التقنيات وطرق التشغيل.
وأوضحت "أوبن إيه آي" أن تدريبات الاستعداد التي تجريها تشمل سيناريوهات متعددة، من دون اعتبار وقوعها أمرًا حتميًا.
وتواجه أي محاولات لفرض قيود واسعة تحديات، في ظل اعتماد قطاعات اقتصادية وخدمية متعددة على البنية التحتية للذكاء الاصطناعي، فضلًا عن انتشار نماذج مفتوحة المصدر ومتاحة للتنزيل، ما يحد من قدرة الشركات المطورة على التحكم في استخدامها بعد وصولها إلى المستخدمين.
وتسلط هذه الاستعدادات الضوء على تنامي القلق بشأن مخاطر إساءة استخدام الذكاء الاصطناعي أو اختراق الأنظمة المتقدمة، وتبرز أهمية تعزيز الأمن السيبراني والاستعداد للأزمات، إلى جانب وضع ضوابط توازن بين مواصلة الابتكار وحماية الخدمات الأساسية والمجتمع.
