صراحة نيوز – يثير التطور المتسارع في قدرات الذكاء الاصطناعي مخاوف متزايدة داخل أوساط الباحثين أنفسهم، مع اقتراب أنظمة الذكاء الاصطناعي من القدرة على تطوير نماذج أكثر قوة بصورة شبه ذاتية؛ وهو ما دفع مسؤولين وشركات تقنية إلى التحذير منه.
ويرى مستثمرون وشركات التكنولوجيا في هذا التطور فرصة تجارية هائلة، في حين يحذر باحثون من أن فقدان السيطرة على هذه الأنظمة قد يشكل خطرًا وجوديًا على البشر.
ويرى موقع “بزنس إنسايدر” مفارقة في هذا الأمر، إذ يواصل الباحثون تطوير التكنولوجيا التي يخشون أن تؤدي في نهاية المطاف إلى القضاء على البشرية، مدفوعين بمزيج من الحوافز التجارية، والاعتقاد بضرورة التفوق على منافسين قد يكونون أقل حرصًا على السلامة، إلى جانب شعور متزايد بفقدان القدرة على التحكم في مسار تطوير الذكاء الاصطناعي.
ويشير إلى أن المديرة المالية لشركة “أوبن إيه آي” أثارت جدلًا الأسبوع الماضي، بعد أن صرحت بأن نماذج الشركة الكبرى أصبحت قادرة الآن على تدريب نماذج أصغر حجماً، مما يساعد OpenAI على توفير التكاليف الهائلة لتدريب هذه الأنظمة، وهذا مثال على “التحسين الذاتي المتسارع”، حيث يصبح الذكاء الاصطناعي قوياً لدرجة تمكنه من إنشاء النظام التالي الأكثر قوة بنفسه.
ورغم أن هذا الأمر يعد فرصة تجارية مذهلة للمستثمرين في وول ستريت، لكنه أمر مرعب بالنسبة لوادي السيليكون، خاصة بعض باحثي الذكاء الاصطناعي المتشددين، بحسب الموقع.
وأفاد موقع “بزنس إنسايدر” بأن نهاية الصيف شهدت تصاعداً في الإدراك داخل أوساط قطاع الذكاء الاصطناعي بأن ما يُعرف بـ”التحسين الذاتي المتسارع” قد يكون بدأ بالفعل، أو بات قريباً بدرجة كبيرة، بما قد يفتح الباب أمام أنظمة ذكاء اصطناعي تصبح أكثر قوة خلال فترات زمنية قصيرة للغاية.
ومع صعود ما يُعرف بـ”وكلاء الذكاء الاصطناعي” الذين باتوا ينتشرون عبر الإنترنت لتنفيذ مهام متقدمة ومعقدة، بعضها يثير القلق، بما في ذلك محاولات تجاوز بيئات الاختبار المخصصة لهم، بدأت المخاوف تتسع داخل بعض دوائر مجتمع الذكاء الاصطناعي، وصولاً إلى حالة من الذعر بشأن احتمالات فقدان السيطرة على هذه الأنظمة.
وفي هذا السياق، كتب إيفان هوبينجر، المسؤول عن أبحاث المحاذاة في شركة “أنثروبيك” (Anthropic)، أن احتمال تسبب الذكاء الاصطناعي بمقتل البشر بات أمراً ينبغي أخذه بجدية، مقدراً شخصياً احتمال وقوع ذلك بأكثر من 10% خلال العقد المقبل. كما عبّر موظفون وباحثون آخرون في “أنثروبيك” و”أوبن إيه آي” (OpenAI) عن مخاوف مماثلة؛ ما أدى إلى تصاعد الجدل داخل وادي السيليكون.
في المقابل، ينظر بعض المستثمرين ورجال الأعمال إلى هذه التحذيرات باعتبارها مبالغاً فيها. وخلال لقاء مع براد غيرستنر، رئيس شركة “ألتي ميتر كابيتال” (Altimeter Capital)، التي تستثمر في “أنثروبيك” و”أوبن إيه آي”، سُئل عن احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، فأجاب رافضاً الفكرة بصورة قاطعة ووصفها بأنها “هراء”.
ويثير هذا التناقض سؤالاً جوهرياً، إذا كان بعض العاملين في شركات الذكاء الاصطناعي يؤمنون فعلاً بأن التكنولوجيا التي يطورونها قد تشكل خطراً وجودياً على البشرية، فلماذا يواصلون العمل على تطويرها؟
وبحسب النظريات التي يستعرضها التقرير، يأتي في مقدمة الأسباب ما يمكن وصفه بـ”الحوافز التجارية والسباق التنافسي”؛ فشركات مثل “أنثروبيك” و”أوبن إيه آي” تعتمد على تطوير نماذج أكثر قوة وبيع منتجاتها وخدماتها، بينما يرى بعض الباحثين أن انسحابهم من هذا السباق لن يؤدي بالضرورة إلى وقف تطوير الذكاء الاصطناعي، بل قد يترك الساحة أمام شركات منافسة أو مختبرات في دول أخرى قد تكون أقل اهتماماً بقضايا السلامة.
ويعتقد بعض الباحثين، خصوصاً داخل “أنثروبيك”، أنهم إذا كانوا يرون التكنولوجيا خطيرة بالفعل، فإن وجودهم داخل المختبرات المتقدمة قد يكون وسيلة للتأثير في طريقة تطويرها وجعلها أكثر أماناً، بدلاً من ترك تطويرها بالكامل لجهات أخرى. وقد لخّص صامويل ماركس، المسؤول في “أنثروبيك”، هذه المعادلة باعتبارها مزيجاً من الحوافز التجارية والشعور بوجود سباق مع مطورين آخرين قد يكونون أقل مسؤولية.
