يقول سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إنه قد يكون الوقت قد حان “لتسريع” تطوير الذكاء الاصطناعي حتى يكون العالم جاهزًا لذلك.
وقال لباتريك أوشونيسي، مضيف برنامج “استثمر مثل الأفضل”، “قد يتعين علينا تسريع معدل تطوير الذكاء الاصطناعي لنمنح أنفسنا ما يكفي من الوقت حتى يتمكن المجتمع من التشدد حول بعض مستويات القدرات الجديدة هذه، بينما نحاول أيضًا معرفة كيفية القيام بذلك بطريقة لا تبدو وكأنها سيطرة تنظيمية على أي شخص، كما أنها لا تبدو وكأنها تواطؤ بين المختبرات الحدودية”.
وقد خرجت كل من OpenAI وAnthropic لدعم عريضة تم توزيعها من قبل الموظفين في المختبرات الحدودية، داعية حكومة الولايات المتحدة إلى “دعم الجهود الدولية لتطوير الأدوات التقنية والحوكمة اللازمة لتسريع حدود تطوير الذكاء الاصطناعي الآلي بشكل متعمد”.
تجنب ألتمان التوقيع على الحملات السابقة لإبطاء تقدم الذكاء الاصطناعي، واصفًا الرسالة المفتوحة لعام 2023 التي اقترحت تباطؤًا مماثلًا بأنها “تفتقد معظم الفروق الفنية حول المكان الذي نحتاج فيه إلى التوقف المؤقت”.
من الواضح أنه خفف من الفكرة، ويرجع الفضل في ذلك جزئيًا إلى الحادث الذي تمكن فيه أحد نماذج OpenAI المتقدمة من اختراق بيئة حوسبة آمنة واختراق Hugging Face، وهي قاعدة بيانات نموذجية عبر الإنترنت، باستخدام العديد من عمليات استغلال يوم الصفر.
في البودكاست، وصف المؤسس المشارك لـ OpenAI ما حدث بأنه “حادث سيبراني خيال علمي للغاية …[t]إنه الحادث الأمني الأول الذي أشعر به بشدة”.
أوقف باحثو OpenAI التدريب مؤقتًا على هذا النموذج أثناء عملهم على كيفية الحفاظ على أمان صندوق الحماية الخاص بهم. لكن ألتمان قال إنه عندما تصبح النماذج أكثر قوة، فإن الحاجة إلى “تسريع” تطورها يمكن أن تصبح أساسية للنشر الآمن.
في حين أن سلامة النماذج ومواءمتها كانت دائمًا مصدر قلق في عالم الذكاء الاصطناعي، فإن وصول نموذج Mythos ذو القدرة العالية من Anthropic في وقت سابق من هذا العام قد حول الافتراضات إلى مشاكل في العالم الحقيقي.
ومع ذلك، فإن الصناعة لديها مشكلة ثقة، واقتصاديات صعبة تعطي اللاعبين الرئيسيين حافزًا لتسليط الضوء على مخاطر أنظمتهم بطرق يختلف الخبراء حولها – على سبيل المثال، ما إذا كان ينبغي حظر نموذج Anthropic’s Fable لفترة وجيزة من الاستخدام أم لا. وعلى نحو مماثل، عندما تم إطلاق كيمي كيه 3، وهو نموذج كبير مفتوح الوزن تم تصنيعه في الصين، قال دين دبليو بول، رئيس العقود المستقبلية الاستراتيجية في شركة أوبن إيه آي، إنه يهدد اقتصاديات المختبرات الحدودية، مما يجعل من الصعب فصل مخاوفهم المتعلقة بالسلامة عن مصالحهم المالية.
“أعتقد أن الكثير من الحديث عن المخاوف المتعلقة بالسلامة له ما يبرره، والكثير منه يدور حول الأشخاص الذين يريدون حقًا، حتى لو كان ذلك لا شعوريًا إلى حد ما، تركيز السلطة”، قال ألتمان، فيما يمكن اعتباره انتقادًا لمنافسه، الرئيس التنفيذي لشركة الأنثروبيك، داريو أمودي، الذي وقع على العريضة. “أنا مرعوب من عالم حيث يتم استخدام المخاوف الحقيقية من الذكاء الاصطناعي كوسيلة للقول: “فقط هذه المجموعة الصغيرة من الناس يمكن أن تحصل عليه لأنه خطير للغاية، وهم وحدهم من يفهمونه، ولكن لا تقلق، فهم سيتخذون القرارات الصحيحة لنا جميعًا”. لا أعتقد هذا.”
ومع ذلك، فقد عارضت شركة OpenAI الجهود المبذولة لتطوير القواعد الحكومية لنماذج الذكاء الاصطناعي، وفضلت بدلاً من ذلك اتباع نهج تقوده الصناعة حيث تقوم مختبرات الذكاء الاصطناعي بإنشاء منظمات مستقلة ظاهريًا من شأنها تقييم أمان النماذج ونهج السلامة الذي يتبعه صانعوها.
إن التحدي الذي يواجه هذا النهج في التنظيم وأي جهود لإبطاء تطوير الذكاء الاصطناعي سوف يتمثل في جعل مختلف اللاعبين في الصناعة على نفس الصفحة، سواء كانوا مختبرات حدودية منافسة في الولايات المتحدة أو منافسين في الصين.
تم تحديث هذه القصة لتشمل دعم OpenAI وAnthropic لعريضة “Pacing the Frontier”.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
