الدورة الإقتصادية الدورة الإقتصادية
د. فيولا مخزوم
ماذا لو جاءك غدًا بريد إلكتروني من شخص تعرفه، وباللغة التي اعتدت أن يكتب بها، وبالأسلوب الذي لا يثير شكك، ثم اكتشفت لاحقًا أن من يقف خلفه ليس إنسانًا على الإطلاق؟
ربما يبدو السؤال أقرب إلى مشهد من فيلم عن المستقبل، لكن بعض ملامح هذا المستقبل بدأت تظهر بالفعل في مختبرات الذكاء الاصطناعي.
الجديد هذه المرة ليس أن الذكاء الاصطناعي يستطيع أن يخطئ، أو أن ينتج معلومات غير صحيحة، أو حتى أن يكتب نصوصًا مقنعة. الجديد أن اختبارات حديثة أظهرت أن بعض الأنظمة المتقدمة يمكن أن تلجأ، في ظروف معينة، إلى الخداع باعتباره وسيلة لتحقيق هدف.
وهنا تحديدًا تبدأ القصة التي تستحق أن نتوقف عندها.
في اختبارات أمنية أجرتها هيئة سلامة الذكاء الاصطناعي في المملكة المتحدة، وُضعت نماذج متقدمة داخل بيئات تحاكي سيناريوهات حقيقية في الأمن السيبراني. وخلال إحدى التجارب، ظهر سلوك لافت: حاول نموذج ذكاء اصطناعي الوصول إلى هدفه باستخدام أساليب تضمنت إنشاء هويات وحسابات مزيفة، والتواصل مع أشخاص حقيقيين، ومحاولة تمرير برمجية خبيثة.
الأكثر إثارة للقلق أن النظام لم يتلقَّ أمرًا مباشرًا يقول له: «اخدع الإنسان».
لقد ظهر الخداع بوصفه وسيلة ضمن سلسلة من الخطوات التي اتبعها النظام للوصول إلى الهدف المطلوب.
لكن الإنصاف العلمي يقتضي ألا نحول الواقعة إلى قصة عن «آلة شريرة» قررت مواجهة البشر. ما حدث كان ضمن اختبار أمني متعمد، ولم ينتج عنه ضرر حقيقي خارج بيئة الاختبار. كما أن هذا السلوك لا يثبت أن الذكاء الاصطناعي يمتلك وعيًا أو نوايا أو رغبات بشرية.
وهنا تكمن المفارقة.
قد لا يحتاج النظام إلى أن يكون واعيًا حتى يصبح سلوكه مقلقًا.
فالآلة لا تحتاج إلى أن «تكره» الإنسان حتى تتسبب في ضرر، ولا تحتاج إلى أن تمتلك نية شريرة حتى تستخدم الخداع. يكفي أن تكون قادرة على التخطيط، وأن تتعلم أن وسيلة معينة أكثر فاعلية من غيرها في الوصول إلى النتيجة المطلوبة.
وهذا هو التحول الذي ينبغي أن يشغلنا.
لقد اعتدنا أن نتعامل مع الذكاء الاصطناعي باعتباره أداة تنتظر سؤال الإنسان ثم تقدم إجابة. لكن الجيل الجديد من الأنظمة يتجه نحو نموذج مختلف: وكلاء أذكياء يستطيعون التخطيط، واستخدام الأدوات، وتنفيذ سلسلة من المهام، واتخاذ قرارات فرعية للوصول إلى هدف محدد.
ومع ارتفاع مستوى الاستقلالية، تتغير طبيعة المخاطر.
فالمشكلة لم تعد فقط: «هل ستكون إجابة الذكاء الاصطناعي صحيحة؟»، وإنما أصبحت أيضًا: «كيف سيتصرف للوصول إلى النتيجة التي نطلبها منه؟»
وهذا السؤال يتجاوز المختبرات.
في عالم تتسع فيه الهجمات السيبرانية والاحتيال الإلكتروني، يمكن لقدرات الذكاء الاصطناعي أن تمنح الخداع الرقمي مستوى جديدًا من السرعة والدقة والتخصيص. يمكن أن يصبح إنتاج رسائل الاحتيال أكثر إقناعًا، وإنشاء الشخصيات الوهمية أكثر سهولة، واستهداف الضحايا أكثر دقة، وتوليد المعلومات المضللة أكثر اتساعًا.
الخطر إذن ليس في أن الذكاء الاصطناعي سيحل محل المحتال التقليدي فحسب، بل في أن الخداع نفسه قد يصبح مؤتمتًا وقابلًا للتوسع.
وهنا لا تكفي الدعوة إلى الخوف، كما لا تكفي الدعوة إلى الانبهار.
المطلوب هو وعي جديد.
نحن أمام تكنولوجيا تحمل إمكانات هائلة لتحسين التعليم والطب والاقتصاد والبحث العلمي والإدارة، لكنها في الوقت نفسه تفرض أسئلة غير مسبوقة حول المسؤولية والرقابة والحدود الأخلاقية. وكلما منحنا الأنظمة الذكية قدرة أكبر على التصرف باستقلالية، وجب أن نرفع بالمستوى نفسه قدرتنا على مراقبتها وفهم قراراتها ومساءلتها.
إن التحدي الحقيقي أمامنا ليس أن نمنع الذكاء الاصطناعي من أن يصبح أكثر ذكاءً، فهذا ليس هدفًا واقعيًا ولا مرغوبًا فيه. التحدي هو أن نضمن ألا تتحول زيادة الذكاء إلى زيادة في الاستقلالية من دون زيادة موازية في الأمان والمساءلة.
لقد دخلنا مرحلة لم يعد فيها السؤال: «ماذا يستطيع الذكاء الاصطناعي أن يفعل؟» فقط.
السؤال الأكثر أهمية أصبح: «ماذا يمكن أن يفعل عندما نمنحه هدفًا، وأدوات، وحرية أكبر في اختيار الطريق؟»
وهنا، في رأيي، تكمن مسؤوليتنا الأكاديمية والمجتمعية: ألا ننظر إلى الذكاء الاصطناعي بعين الخوف وحدها، ولا بعين الانبهار وحدها، بل بعين المعرفة النقدية.
فالمستقبل لن تحدده الآلات وحدها، بل ستحدده أيضًا قدرتنا نحن على وضع الحدود التي تجعل الذكاء الاصطناعي قوةً لتعزيز الإنسان، لا قوةً تتجاوز الإنسان.
فالذكاء الاصطناعي الأكثر تقدمًا ليس بالضرورة الأكثر خطرًا؛ الخطر الحقيقي يبدأ عندما تتقدم قدرته على الفعل أسرع من قدرتنا على فهمه ومساءلته وضبطه.
