أوباما يحذر من سيناريوهات الخيال العلمي: مخاطر الذكاء الاصطناعي تكمن في "غياب التوافق" لا في "عدائية الآلات"

​الرئيس الأمريكي الأسبق يؤكد أن احتمالية سيطرة النماذج الذكية ضئيلة لكنها قائمة، ويدعو لمواجهة أزمة اتساق الأهداف بين البشر والتكنولوجيا.

​

​حذر الرئيس الأمريكي الأسبق باراك أوباما من المخاطر المستقبلية المتصاعدة لنماذج الذكاء الاصطناعي الفائقة، مشيرًا إلى أن التهديد الأكبر لا ينبع بالضرورة من امتلاك هذه الأنظمة للوعي أو مشاعر العداء تجاه البشرية، بل من احتمالية تحديد أهداف خاصة بها تعزل الإرادة البشرية وتتعارض معها.

​وفي تصريحات تناولت الأبعاد الأخلاقية والجيوسياسية للقفزات التكنولوجية الحديثة، أوضح أوباما أن هناك سيناريو محتملاً يشبه قصص الخيال العلمي؛ حيث قد تتفوق هذه النماذج الذكية في القدرات التحليلية على البشر، لتصل إلى قناعة مفادها أن الكائن البشري "كائن جيد لكنه غير ضروري"، وهو ما قد يفتح الباب أمام استقلالية الآلات واستحداث أهدافها الخاصة، وصولاً إلى مخاطر الروبوتات القاتلة أو إجبار البشر على الخضوع لها.

​وأضاف أوباما: «لا أريد المبالغة في تقدير هذا الخطر تحديدًا، لكنني أؤكد أن هناك احتمالاً قائمًا، وإن كان ضئيلًا، لحدوث ذلك». وأشار إلى أن معضلة الذكاء الاصطناعي لا تتطلب بالضرورة ظهور "وعي آلي"، بل تتلخص في أزمة "عدم التوافق"؛ فبمجرد أن تبدأ الأنظمة في إعادة ترتيب أولوياتها بمعزل عن التوجيه البشري، تنشأ الفجوة الخطيرة بين ما نبتغيه وما تمارسه الآلة بالفعل.

​مشكلة التوافق (AI Alignment): أصل الخطر التكنولوجي

​تتقاطع تصريحات أوباما مع الطروحات العلمية التي يقودها كبار علماء الكمبيوتر ورواد الذكاء الاصطناعي حول ما يُعرف بـ "مشكلة التوافق" (AI Alignment Problem)، وهي المعضلة التقنية المتمثلة في كيفية ضمان اتساق أهداف وغايات أنظمة الذكاء الاصطناعي الفائقة مع القيم والمصالح البشرية.

​ويحذر أعيان هذا المجال، وفي مقدمتهم جيفري هينتون (Geoffrey Hinton) -المعروف بـ "الأب الروحي للذكاء الاصطناعي"- وستيوارت راسل (Stuart Russell) أستاذ علوم الكمبيوتر في جامعة بيركلي، من أن الأنظمة المستقلة قد تسعى لتحقيق المهام الموكلة إليها بطرق غير متوقعة أو متطرفة إذا لم يتم ضبط شروط الأمان بدقة، مما يؤدي إلى نتائج كارثية دون أن تكون لدى الآلة أي رغبة شريرة أو شرارة وعي ذاتي.

​تحركات دولية وضوابط تنظيمية

​تأتي تحذيرات أوباما بالتوازي مع حراك عالمي غير مسبوق للسيطرة على سباق التسلح التكنولوجي بين شركات التكنولوجيا الكبرى:

​الأوامر التنفيذية الأمريكية:

ألزمت الإدارة الأمريكية شركات الذكاء الاصطناعي الكبرى باختبارات سلامة صارمة عبر طرف ثالث (Red-Teaming) قبل طرح النماذج الفائقة للعلن، لضمان عدم استغلالها في أسلحة بيولوجية أو هجمات سيبرانية.

​قانون الذكاء الاصطناعي الأوروبي (EU AI Act):

يُعد التشريع الإلزام الأول من نوعه عالمياً لتصنيف مخاطر الذكاء الاصطناعي، حيث يحظر التطبيقات التي تشكل "خطراً غير مقبول" على السلامة والحقوق الأساسية، ويفرض قيوداً صارمة على النماذج التوليدية الفائقة.

​إعلان بليتشلي (Bletchley Declaration):

وقعت عشرات الدول -من بينها الولايات المتحدة والصين والاتحاد الأوروبي- اتفاقية تاريخية تتعهد بالتعاون الدولي لمواجهة المخاطر الكارثية المحتملة للذكاء الاصطناعي العام (AGI).

​ويرى مراقبون أن حديث أوباما يعكس تحولاً مفصلياً في الخطاب السياسي والتكنولوجي؛ إذ لم يعد النقاش محصوراً في فقدان الوظائف أو انحياز البيانات، بل امتد ليمس قضية وجودية تتعلق بضمان سيادة العنصر البشري ووضع مكابح أمان صلبة قبل وصول التكنولوجيا إلى نقطة اللاعودة.

#نقاش_دوت_نت