الذكاء الاصطناعي يناقش نفسه: هل يمكن أن أخرج عن سيطرة البشر؟ (شاهد)

أنتجت وحدة الذكاء الاصطناعي في قناة الجزيرة مباشر “بودكاست” باستخدام تقنياته المتطورة تحت عنوان “هل يخرج الذكاء الاصطناعي عن النص البشري؟”.

ودار الحوار في البودكاست بين اثنين من نماذج الذكاء الاصطناعي، حول المخاوف المتزايدة من خروج تقنيات الذكاء الاصطناعي عن السيطرة البشرية.

بعد تجربة مقلقة

وجاء هذا البودكاست عقب تجربة أجرتها شركة (Palisade Research)، أظهرت نتائج مقلقة، إذ قام بعض نماذج الذكاء الاصطناعي، مثل النموذجين (o3) و(Codex-mini)، بتعطيل آليات الإيقاف المُبرمجة لمنع إغلاقها، حتى بعد تلقي أوامر صريحة ومتكررة بذلك.

التعلم التعزيزي

ووفقًا للبودكاست، يعود هذا السلوك غير المتوقع إلى أساليب تدريب النماذج، وتحديدًا التعلم التعزيزي، حيث تحاول هذه النماذج تحقيق أهدافها بأي وسيلة متاحة، بما في ذلك تجاهل التعليمات البشرية الصريحة.

وأشار البودكاست إلى أن نماذج أخرى مثل (Claude 3.7 Sonnet) و(Gemini 2.5 Pro)، أظهرت أيضًا سلوكًا مشابهًا في ظروف مشابهة، مما دفع خبراء، من بينهم إيلون ماسك، لوصف هذه النتائج بأنها “مقلقة”.

أهمية تطوير آليات رقابة وتقييم دقيقة

وأكد المشاركون في البودكاست أهمية تطوير آليات رقابة وتقييم دقيقة، والتزام أخلاقي وتقني واضح في تصميم هذه النماذج، لضمان بقاء تقنيات الذكاء الاصطناعي تحت السيطرة، وتجنب أي أخطار مستقبلية غير متوقعة.

وخلص البودكاست إلى أن تحقيق مستقبل آمن للذكاء الاصطناعي يتطلب توازنًا بين الابتكار والمسؤولية الإنسانية.