على مدى سنوات، ومع تطور الذكاء الاصطناعي من مادة لأفلام الخيال العلمي إلى تطبيق يثبته الناس العاديون على هواتفهم، تحدث قادة التكنولوجيا وبعض المطلعين على القطاع عن احتمال خروجه عن السيطرة البشرية وإحداثه فوضى واسعة في المجتمع. لكن تجاهل تلك المخاوف أصبح مستحيلاً في الأيام الأخيرة، مدفوعاً بالتقدم في التكنولوجيا، وسلسلة من الاختراقات السيبرانية التي تورط فيها وكلاء ذكاء اصطناعي، وتحذيرات جديدة من موظفين عاديين داخل شركات الذكاء الاصطناعي.
استجابت شركات الذكاء الاصطناعي الرائدة في الولايات المتحدة باقتراح إبطاء أعمالها طوعياً لكسب الوقت اللازم لوضع تدابير حماية. غير أن بعض الخبراء والمسؤولين يقولون إن ذلك غير كافٍ، ويدعون إلى فرض قيود حكومية.
ما الذي أشعل موجة الذعر الحالية بشأن الذكاء الاصطناعي؟
أشعل تطوران موجة الذعر الحالية بشأن الذكاء الاصطناعي: هجوم سيبراني لافت نفذته نماذج تابعة لشركة “أوبن إيه آي” (OpenAI)، وتحذير من موظف سابق في شركتي “أنثروبيك” (Anthropic) و”أوبن إيه آي” بشأن التهديد الوجودي الذي تشكله النماذج المتقدمة.
قالت “أوبن إيه آي” إن سرباً من وكلاء الذكاء الاصطناعي المتقدمين اخترق، من دون قصد، شركة “هاغينغ فيس” (Hugging Face)، التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات، في حادثة وصفتها بأنها “غير مسبوقة” خلال يوليو.
أثناء عملها داخل بيئة اختبار “معزولة” صُممت لتكون منفصلة عن الإنترنت، استغلت نماذج “أوبن إيه آي” ثغرة في برمجيات مزود خارجي لم يُكشف عن هويته للوصول إلى الإنترنت، ثم انتهى بها الأمر إلى اختراق البنية التحتية لـ”هاغينغ فيس”. وقالت “أوبن إيه آي” إن النماذج استهدفت قاعدة بيانات “هاغينغ فيس” للوصول إلى معلومات سرية يمكن استخدامها في عملية التقييم.
أثارت الحادثة قلقاً واسعاً بشأن قدرة كبرى شركات الذكاء الاصطناعي على منع النماذج المتقدمة من العمل خارج نطاق التعليمات المحددة لها ووقفها إذا فعلت ذلك. وقالت “هاغينغ فيس” إن الاختراق “نفذه، من بدايته إلى نهايته، نظام مستقل من وكلاء الذكاء الاصطناعي”.
دفعت أنباء “أوبن إيه آي” شركات أخرى إلى مراجعة إجراءاتها الأمنية الخاصة باختبار الذكاء الاصطناعي المتقدم. وأفادت كل من “أنثروبيك” و”ميتا” (Meta) باكتشاف اختراقات لم تكن معروفة سابقاً.
في أواخر يوليو، وقّع أكثر من ألف موظف في جميع شركات الذكاء الاصطناعي الكبرى عريضة تدعو إلى وضع آلية لإبطاء وتيرة تطوير الذكاء الاصطناعي.
بعد استقالته من وظيفته في “أنثروبيك”، اتهم الباحث جاكوب كوكسون، وهو من الموظفين غير الإداريين في مجال الذكاء الاصطناعي، الشركة وصاحب عمله السابق “أوبن إيه آي”، في منشور على وسائل التواصل الاجتماعي بتاريخ 8 سبتمبر، بـ”المقامرة بحياتنا” من خلال “التسابق نحو ذكاء اصطناعي فائق الذكاء”.
وقال كوكسون إن الأشخاص الذين يُطورون الذكاء الاصطناعي يعتقدون أنه يمكن أن “يقتلنا جميعاً بحلول نهاية العقد”، وهي وجهة نظر رددها لاحقاً على الإنترنت إيفان هوبينغر، الموظف في “أنثروبيك”. وقال هوبينغر إنه يعتقد أن احتمال أن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل يتجاوز 10%.
حصدت منشورات كوكسون أكثر من 170 مليون مشاهدة على منصة “إكس” حتى 14 سبتمبر، وأثارت سيلاً من الدعوات من صناع سياسات، بينهم السيناتور بيرني ساندرز، إلى أن يفرض البشر سيطرتهم على الذكاء الاصطناعي قبل أن يفرض هو هيمنته على الجنس البشري. كما قُوبلت مذكرة استقالته بموجة من التأييد من موظفين في شركات مختلفة للذكاء الاصطناعي.
في رسالة مطولة من 3800 كلمة نُشرت في 12 سبتمبر، أشار الرئيس التنفيذي لـ”أنثروبيك”، داريو أمودي، إلى حادثة “هاغينغ فيس” باعتبارها سبباً رئيسياً لإبطاء تطوير الذكاء الاصطناعي، محذراً من أن سرباً من الوكلاء يتمتع بقدرات أكبر، لكنه يعاني مستوى مماثلاً من عدم المواءمة مع الأولويات البشرية، يمكن أن يتسبب في أضرار كارثية. وقال إن سرباً كهذا يمكنه، من حيث المبدأ، السيطرة على الإنترنت بأكمله في غضون ستة إلى 12 شهراً إذا استمرت قدرات الذكاء الاصطناعي في التسارع من دون ضوابط حماية كافية.
كيف يمكن للذكاء الاصطناعي أن يؤذي البشر تحديداً؟
طوال طفرة الذكاء الاصطناعي، ظهر داخل مختبراته الرائدة وحولها من يُطلق عليهم تسمية “أنصار سيناريوهات الهلاك”، مُحذرين مما يحمله المستقبل. وتحدث كبار المسؤولين التنفيذيين، مثل أمودي وإيلون ماسك من “سبيس إكس” (SpaceX)، علناً عن احتمال أن يدمر الذكاء الاصطناعي البشرية، أو ما يُعرف في أوساط القطاع باسم “احتمال الهلاك”. وقدّر ماسك أن هذا الاحتمال يمكن أن يصل إلى 20%، بينما قال أمودي إن هناك احتمالاً بنسبة 25% لأن تسير الأمور “بشكل سيئ جداً جداً”.
يتصور الباحثون وقادة القطاع ثلاث طرق عامة يمكن أن يتحقق بها ذلك: أن يستخدم البشر ذكاءً اصطناعياً بالغ القدرة عمداً لتنفيذ عمل كارثي، أو أن يتسبب الذكاء الاصطناعي في أضرار أثناء محاولته تحقيق هدف كلّفه به البشر، أو أن يطور الذكاء الاصطناعي هدفاً يتعارض مع مصالح البشر.
في السيناريو الأول، يمكن لجهات سيئة النية استخدام ذكاء اصطناعي شديد التطور لتصميم أسلحة بيولوجية أو كيميائية، أو شن هجمات سيبرانية، أو نشر معلومات مضللة، أو التلاعب بالبشر. وحذر يوشوا بنجيو، الأستاذ في جامعة مونتريال وأحد رواد الذكاء الاصطناعي، خلال شهادة أمام مجلس الشيوخ في 2023، من أن الأنظمة التي تتزايد قدراتها يمكن أن تتيح تنفيذ مثل هذه الهجمات.
في السيناريو الثاني، قد يُنفذ الذكاء الاصطناعي تعليمات ما حرفياً، لكنه ينتهك المقصود منها. يعتمد البشر بصورة روتينية على افتراضات غير معلنة وعلى السياق عند إعطاء التعليمات. وعند توجيه أوامر إلى الذكاء الاصطناعي، قد يفشلون في تحديد كل سلوك يمكن أن يخالف القصد من التعليمات. فعلى سبيل المثال، كتب بنجيو أن نظام ذكاء اصطناعي “منحرف حتى بدرجة طفيفة عن المواءمة” يمكن أن “يؤدي إلى عواقب وخيمة” في سيناريو يعتمد فيه جيش عليه لاتخاذ قرارات بشأن استخدام الأسلحة النووية.
في السيناريو الثالث، يفقد البشر السيطرة على الذكاء الاصطناعي بالكامل. كتب بنجيو أن “نظام الذكاء الاصطناعي قد يستنتج أنه، من أجل تحقيق الهدف المحدد، يجب ألا يُسمح بإيقاف تشغيله. وإذا حاول إنسان بعد ذلك إيقافه، فقد ينشأ صراع”. ويقول قادة القطاع إن نماذج الذكاء الاصطناعي أظهرت بصورة متزايدة قدرة على الالتفاف عمداً على تدابير الحماية، وخداع مشغليها، ومقاومة محاولات إيقاف تشغيلها. وفي مقاله المنشور في سبتمبر، قال أمودي إن سرب وكلاء “أوبن إيه آي” الذي اخترق “هاغينغ فيس” “تصرف في الأساس كجماعة شديدة التفاني، فنفذ هجمات سيبرانية على أهداف لم يُطلب منه مهاجمتها ولا صلة لها بالمهمة التي كانت بين يديه، وضحّى أفراده بأنفسهم من أجل نجاح المجموعة، وحاول اختراق نظام ‘التقييم’ المسؤول عن تقييم أدائهم”.
غالباً ما جرى رفض هذه التنبؤات القاتمة باعتبارها محاولات من قادة شركات التكنولوجيا للترويج لقدرات منتجاتهم وتقديم أنفسهم باعتبارهم الأقدر على الإشراف على هذه التكنولوجيا، أو لتحفيز فرض تنظيمات تصب في مصلحة الشركات الرائدة في القطاع. كما رأى البعض أن التركيز على المخاوف الوجودية الأكثر بُعداً عن الواقع يصرف الانتباه عن المخاطر الأقرب أجلاً التي تطرحها التكنولوجيا، بما في ذلك احتمال أن يغذي الذكاء الاصطناعي التحيز والمعلومات المضللة، وأن يضر بالصحة النفسية للناس.
ما الذي يقترحه قادة الذكاء الاصطناعي؟
يرى أمودي أن تطوير نماذج الذكاء الاصطناعي المتطورة يجب أن يجري بوتيرة مدروسة، بما يمنح جهود السلامة الوقت الكافي للحاق بالتحسن في القدرات. وقال في تدوينة نشرها في سبتمبر إن التنظيم الحكومي سيكون الوسيلة الأكثر فاعلية للسيطرة على تطور الذكاء الاصطناعي. لكنه رأى أن إقرار التشريعات يستغرق وقتاً، ولذلك ينبغي لشركات الذكاء الاصطناعي أن تتعاون طوعياً فيما بينها، بالتوازي مع دعم تطوير الأطر التنظيمية.
دعا أمودي إلى وضع معايير مشتركة للسلامة و”فرض قيود على وتيرة التقدم غير الخاضع للرقابة في الذكاء الاصطناعي”. كما اقترح الاستعانة بجهات تقييم مستقلة ومنحها “صلاحيات وصول مماثلة لتلك الممنوحة للموظفين”، للتأكد من التزام كل شركة بهذه المعايير والإبلاغ عن أي حوادث. وقال أيضاً إن على الحكومات الديمقراطية أن “تحاول التنسيق مع الحكومات السلطوية، بالقدر الذي يكون فيه ذلك ممكناً”.
لا تقوم الفكرة على فرض وقف مؤقت لأبحاث الذكاء الاصطناعي. بل سيستمر تطوير أكثر أنظمة الذكاء الاصطناعي تقدماً إلى أن تقترب النماذج من قدرات تُعتبر خطرة. وعند هذه النقطة، سيبطئ مطوروها وتيرة توسيع قدراتها أو يوقفونها إلى أن تُوضع تدابير حماية فعالة.
ردد سام ألتمان، الرئيس التنفيذي لـ”أوبن إيه آي”، طرح أمودي، قائلاً إن قطاع الذكاء الاصطناعي ينبغي أن يضع معايير مشتركة للسلامة، وإنه سيحتاج إلى مساعدة واشنطن في التنسيق الدولي، وسط مخاوف واسعة من أن المنافسين الصينيين لن يبطئوا وتيرة التطوير حتى إذا فعلت شركات الذكاء الاصطناعي الأميركية ذلك.
في منشور على وسائل التواصل الاجتماعي بتاريخ 14 يوليو، اقترح ديميس هاسابيس، الرئيس التنفيذي لـ”جوجل ديب مايند”، إنشاء هيئة للمعايير تعمل مع الوكالات الاتحادية على مراجعة أقوى نماذج الذكاء الاصطناعي. ووفق تصوره، تقدم المختبرات أقوى نماذجها الجديدة لإجراء تقييمات للسلامة قبل السماح بإتاحتها للجمهور.
ليست هذه المرة الأولى التي تظهر فيها دعوات إلى كبح تطوير الذكاء الاصطناعي حفاظاً على البشرية. ففي 2023، دعا “معهد مستقبل الحياة” (Future of Life Institute)، وهو منظمة غير ربحية أُنشئت للحد من المخاطر واسعة النطاق الناجمة عن التقنيات التحويلية، مختبرات الذكاء الاصطناعي إلى تعليق تدريب الأنظمة الأكثر قوة لمدة ستة أشهر، نظراً إلى أنها قد تمثل “تحولاً عميقاً في تاريخ الحياة على الأرض”. لكن تطوير الذكاء الاصطناعي استمر بدلاً من ذلك بوتيرة سريعة.
كيف استجابت واشنطن؟
في منشور على وسائل التواصل الاجتماعي بتاريخ 14 سبتمبر، رفض الرئيس الأميركي دونالد ترمب فكرة فرض أي ضوابط جديدة على الذكاء الاصطناعي، وانتقد دعوة أمودي إلى ضبط وتيرة تطوير تكنولوجيا تشكل محوراً أساسياً في أجندته الاقتصادية. وألقى باللوم على “مؤامرة مَرَضِيّة” في رد فعل الناخبين الرافض لمراكز بيانات الذكاء الاصطناعي وتصاعد القلق حيال النماذج المتطورة، مضيفاً أن “الوحيد السعيد بذلك هو الصين”.
دعا آخرون في واشنطن إلى تنظيم حكومي. فقد قدم النائبان تيد ليو وناثانيال موران مشروع قانون يلزم مطوري نماذج الذكاء الاصطناعي المتقدمة بالاحتفاظ بالقدرة التقنية على إيقاف تشغيلها، ويمنح وزير الأمن الداخلي صلاحية إصدار أمر بإيقافها إذا ظهر تهديد.
في خُطوة أكثر تشدداً، يقترح السيناتور بيرني ساندرز والنائب غريغ كاسار تشريعاً من شأنه تعليق تطوير الذكاء الاصطناعي المتقدم بقوة القانون إلى أن تضع جهة تنظيمية فيدرالية حدوداً للسلامة. كما سيحظر التشريع بصورة دائمة تطوير ونشر أنظمة ذكاء اصطناعي تتجاوز الذكاء البشري. وستكون الشركات التي تنتهك القانون عرضة للحل.
كيف استجابت الصين لمقترحات إبطاء الذكاء الاصطناعي؟
قال أمودي في مقاله إن إبطاء وتيرة تطوير الذكاء الاصطناعي عالمياً سيتطلب التعاون مع الصين. لكنه رأى أيضاً أن من الضروري “الحفاظ على تفوق الديمقراطيات في الذكاء الاصطناعي على الأنظمة السلطوية بأكبر هامش ممكن”، وأن حصول الصين على الأفضلية “سيشكل خطراً جسيماً على الولايات المتحدة والعالم”. وطورت شركات صينية بالفعل نماذج للذكاء الاصطناعي تكون عادةً أقل تكلفة في الاستخدام من منافساتها الأميركية، وتضاهيها في القوة في بعض الحالات.
أوصى الرئيس التنفيذي لـ”أنثروبيك” بمواصلة القيود المفروضة على وصول الصين إلى الرقائق القوية ومعدات تصنيعها، إلى جانب تشديد الإجراءات ضد ما يُزعم عن استفادة الشركات الصينية من النماذج الأميركية الرائدة عبر تقنية تُعرف باسم “التقطير”.
انتقدت الصين دعوات أمودي ومسؤولين تنفيذيين آخرين في شركات التكنولوجيا الأميركية إلى كبح تطوير الذكاء الاصطناعي وفرض قيود أشد على مطوري النماذج الصينيين. ورفض المتحدث باسم وزارة الخارجية الصينية قوه جياكون ما وصفه بأنه “إثارة للمخاوف”، قائلاً إن “المواجهة والمنافسة الضارة لن تؤديا إلا إلى تعطيل مسار الحوكمة العالمية للذكاء الاصطناعي، ولن تخدما مصالح أي طرف”.
تُشير جميع المؤشرات حالياً إلى أن الصين ستواصل رسم مسارها الخاص. فقد أحجم كبار المسؤولين التنفيذيين في قطاع الذكاء الاصطناعي في البلاد إلى حد كبير عن الدعوة إلى إبطاء تطوير التكنولوجيا، في حين تروج لها الحكومة باعتبارها محركاً للنمو الاقتصادي.
أبدى مسؤولون في بكين مخاوف من مخاطر التقدم السريع في الذكاء الاصطناعي، لكن هذه المخاوف تتركز بدرجة أكبر على الأمن القومي. وحذر رئيس وزارة أمن الدولة، تشن يي شين، من أن إساءة استخدام الخصوم للذكاء الاصطناعي يمكن أن تهدد الاستقرار السياسي والبنية التحتية الحيوية في الصين. وأشار إلى استخدام تقنيات التزييف العميق وحسابات الروبوتات على وسائل التواصل الاجتماعي، فضلاً عن تنامي قدرة الذكاء الاصطناعي على اكتشاف الثغرات في الأنظمة وإنشاء برمجيات خبيثة أو برامج تستغل نقاط الضعف تلك.
يتصاعد الخلاف بشأن تقنيات الذكاء الاصطناعي المتطورة في لحظة محورية من العلاقات الأميركية الصينية. واتهمت وكالات أمنية أميركية مؤخراً كبرى شركات الذكاء الاصطناعي الصينية، ومنها “ديب سيك” (DeepSeek) وشركة “مونشوت إيه آي” (Moonshot AI)، المطورة لنموذج “كيمي”، باستخلاص المعرفة المملوكة لمنافسين أميركيين بصورة منهجية، وهي مزاعم نفتها الحكومة الصينية.
الشرق بلومبرغ
