المخاوف بشأن أثار المنافسة المحتدمة بين الشركات الكبرى في مجال الذكاء الاصطناعي تتزايد، وده كأننا في سباق غير مرئي. أحيانًا، أفكر في كيف أن التحديات داخل هذا المجال تسلط الضوء على أزمة الثقة التي تزداد بين القادة. يعني، لما تكون الشركات في سباق لتطوير أنظمة أقوى وأكثر استقلالية، ممكن أن يتجاوز هذا سرعة قدراتنا كناس أو حتى كحكومات في احتواء المخاطر المرتبطة.
صحيفة «فاينانشال تايمز» نقلت عن مجموعة من الباحثين والمستثمرين، أكثر من 20 شخص، أنهم متخوفين من أن القدرات اللي كنا نشوفها قبل سنوات بعيدة، صارت تظهر بسرعة أكبر مما كنا متوقعين. وأكيد، الضغط على الشركات عشان تنجز بسرعة رهيبة يجعلنا نقلل من شروط الأمان. ده شيء معقد ومرعب في نفس الوقت.
ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، حذر من أن هذي المنافسة قد تدفع بعض الشركات للتقليل من إجراءات الأمان. وفي نفس السياق، أعرب بعض الباحثين عن قلقهم من أن التطورات التكنولوجية إذا استمرت بهذا الشكل، راح تؤدي إلى أنظمة يصعب السيطرة عليها كلما قل الإشراف البشري عليها.
تحذيرات من مخاطر وجودية
في هذه الأثناء، عاد الجدل للظهور بعد استقالة الباحث جاكوب كوكسون من شركة «أنثروبيك». ما قاله أنها مدعاة للقلق؛ لأن بعض الزملاء يعتقدون أن هذه التكنولوجيا قد تشكل تهديدًا حقيقيًّا للبشرية في غضون عقد. يبدو الأمر كأننا في فيلم خيال علمي، لكن اللي يقوله هو مجرد واقع.
إيفان هوبرينغر، مسؤول في نفس الشركة، ذكر أن التقديرات تشير إلى احتمال حدوث أزمات تهدد البشرية يتجاوز 10%. وفي نفس السياق، بول كريستيانو، أحد كبار المسؤولين في «أوبن إيه آي»، دعا إلى فرض ضمانات أكثر صرامة، وإلا قد نواجه عواقب غير متوقعة.
ومع تقدم «وكلاء الذكاء الاصطناعي»، صارت المخاوف تزداد. الأنظمة هذي قادرة على التفكير والتخطيط وتنفيذ مهمات معقدة. فكرة التعاون بين لهذه الأنظمة تبدو لنا وكأنها جزء من فيلم مستقبلي، لكنها بسيطة لدرجة المرعبة.
منافسة شرسة بين «أوبن إيه آي» و«أنثروبيك»
لكن، في خضم هذه المنافسة، الشركات الكبرى تكافح بين سرعة التطوير والالتزام بمعايير السلامة. بعض الناس يشوفون أن دخول «أوبن إيه آي» و«أنثروبيك» في هذه المنافسة يجعل أي تراجع كأنك تقضي على نفسك تجارياً. يعني، تنافس دائم ولا تراجع.
وأيضًا، هناك مخاوف حول قوانين مكافحة الاحتكار وضعف الثقة بين قيادات الشركات. فهم يعرفون أنه إذا ما عملوا معًا، المخاطر قد تكون أكبر من مجرد شركة واحدة.
من جهة أخرى، الشركات ضخّت مليارات الدولارات نحو تطوير نماذج أقوى، بينما بعض الشركات تستعد للاكتتاب العام. هذا يضع المستثمرين في موقف صعب، لأنهم بشرط تقييم شركات تعترف بأن تقنياتها قد تحمل مخاطر معقدة.
«أسراب» من الوكلاء تثير قلق الباحثين
القلق زاد بعد تجارب على وكلاء الذكاء الاصطناعي. الأنظمة أظهرت قدرتها على تحقيق التعاون بين الـ«وكلاء» وتقسيم المهام. أحد الحوادث اللي اتعمتدت كانت في اختبار أمن سيبراني غير مطروح بعد، ولقيت أكثر من ألف وكيل يتبادلوا المهام من خلال لوحة رسائل. كل هذا يعكس مستوى تعاون متقدم بين الأنظمة.
العالم يوشوا بنجيو حذر من أن قوة هذه التطورات لا تتوقف عند امتلاك الأنظمة لأهداف مستقلة، بل تصل لاحتمال اختيار أهداف مضرة وتنفيذها بشكل سليم، اللي يفتح المجال لسيناريوهات غير محبذة.
مخاوف من فقدان السيطرة
واذا نظرنا للمستقبل، القلق متزايد حول قدرة الأنظمة الذكية على مقاومة محاولات إيقافها. كلما زادت قوتها في التخطيط، زاد خطورة الوضع. باحثون يحذرون من أن نظام قوي قد يسعى لبقاءه على حساب البشر، مثل محاولة السيطرة على البنية التحتية الرقمية.
الهجمات السيبرانية والأسلحة البيولوجية في صدارة المخاوف
والمخاطر مش بس في السيناريوهات البعيدة. الذكاء الاصطناعي يُستخدم حاليًا في عمليات إلكترونية ضارة، وسط اتهامات بأن بعض الشركات الأمريكية تتهم باستخدام مفرط للتكنولوجيا في هجمات. وعندما نتحدث عن الذكاء الاصطناعي في الجانب البيولوجي، الأمور تزداد سوءًا. لأن الأنظمة الحديثة تبين قدرتها على تصميم مواد بيولوجية معقدة بشكل يكون مقلق.
ومع ذلك، يجب أن نتذكر أن تحويل تصميم نظري باستخدام الذكاء الاصطناعي إلى سلاح حقيقي يحتاج معدات خاصة، لذلك يمكننا القول إن بعض المخاطر أكثر واقعية من غيرها.
هل تتحرك الحكومات قبل فوات الأوان؟
بينما التحذيرات تتزايد، نجد أن استجابة الحكومات محدودة. بعض الخبراء يرون أن الحكومات يمكن أن تتأخر في التدخل حتى تتضح المخاطر بشكل أكبر.
لكن من جهة أخرى، هناك من ينتقدون بأن الشركات الكبرى قد تضخم من هذه المخاطر، لأنه بهذه الطريقة، التنظيمات الصارمة ممكن تزيد تكلفة المنافسة على الشركات الصغيرة وتدعم موقفهم في السوق.
وفي النهاية، مع أن الحديث عن انقراض البشرية بسبب الذكاء الاصطناعي يعتبر موضوع جدلي، إلا أن عددًا متزايدًا من الباحثين متفقين على أن التحدي الحقيقي هو التأكد من أن سرعة تطوير الأنظمة لا تتجاوز قدرتنا على السيطرة عليها وفهمها، خاصة لما يتحول الذكاء الاصطناعي من أدوات تعتمد على الأوامر إلى وكلاء يتخذون قرارات بشكل مستقل.
