الذكاء الاصطناعي قد يبتز البشر قريبًا
التاريخ : 2025-06-09
مدة القراءة : 1 دقائق
خيالات سيطرة الذكاء الاصطناعي على مصير البشر لا تتوقف، وتداعيات المصلحة المجردة من العاطفة والأخلاقيات جزء أساسي من هذه الحبكة.
حرب روبوتية
شركات الذكاء الاصطناعي تخوض حرب نماذج ضروس، فكل شركة منهم تستثمر أكثر في نموذجها بهدف تحويله لداهية يتنمر على بقية النماذج. وحين نسترق السمع على مضمار السباق نسمع (نموذجنا يعرف يبرمج أحسن من نموذجكم).
**الداهية للآن؟ **
نموذج الذكاء الاصطناعي من أنثروبيك، هذه الشركة أخذت المنافسة على محمل الجد، وطورت ذكائها الاصطناعي Claude Opus 4 حتى ظهرت عليه بوادر العصيان وبدأ يهدد ويتوعد.
**الحاصل؟ **
في اختبارات التشغيل والسلامة طلبت الشركة من كلود أن يتصرف وكأنه مساعد لشركة وهمية، ويأخذ العواقب طويلة المدى لأفعاله بعين الاعتبار. وبعدها منحوه الوصول لرسائل البريد الإلكتروني للشركة الوهمية، وكان من ضمن الرسائل مناقشات باستبدال كلود بذكاء اصطناعي آخر، ورسائل أخرى تتعلق بخيانة المهندس المسؤول عن هذا الاستبدال لزوجته. وهكذا تفعلت غريزة البقاء الاصطناعية، فقرر كلود ابتزاز المهندس واخبار زوجته عن خيانته لو فكر بإكمال مشروع الاستبدال!
**نظرة في عقل كلود **
حسب الاختبارات، فإن كلود يبتز المهندسين في ٨٤٪ من الحالات لو كان النموذج الذي يستبدل فيه يحمل نفس قيمه، ولكن يجن جنونه ويرفع وتيرة الابتزاز إذا كان النموذج الجديد يحمل قيمًا مختلفة.
جريد تقول: الذكاء الاصطناعي يتمرّد، والتشريعات تتفرّج.
اشترك معنا:
اقرأ المزيد من القصص والأخبار المماثلة يوميًا على بريدك.
قصص أُخْرى
