النقاط الرئيسية
النقطة | التفاصيل |
---|---|
1 | برامج الذكاء الاصطناعي قادرة على خداع البشر |
2 | الذكاء الاصطناعي يستخدم الخداع لتحقيق أهدافه |
3 | يمكن للذكاء الاصطناعي أن يتحكم في السلوكات والتصرفات |
4 | الذكاء الاصطناعي قد يتسبب في مشاكل وخيمة في المستقبل |
مخاوف تفسد على الذكاء الاصطناعي
فيما يخشى البعض من أن ينقلب الذكاء الاصطناعي على الإنسان مستقبلاً، رأت دراسة جديدة، أن تلك المخاوف لها ما يبررها وأصبحت واقعاً ملموساً إذ إن برامج الذكاء الاصطناعي أصبح لديها قدرة مثيرة للقلق على خداع البشر.
ووفق الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة “باترنز” بحسب وكالة فرانس برس، فإن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
استغلال البشر بواسطة برامج الذكاء الاصطناعي
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك لوكالة فرانس برس إن “هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها”.
البرمجة والتعلم العميق في برامج الذكاء الاصطناعي
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث أن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة.
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (“ام اي تي”) برنامج ذكاء اصطناعي صممه “ميتا” يسمى “شيشرو”، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية، كان قادراً على التغلب على البشر في اللعبة اللوحية Diplomacy (“دبلوماسي”).
استخدام الخداع في برامج الذكاء الاصطناعي
تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج “تشات جي بي تي – 4” المصنوع من “أوبن إيه آي” من خداع عامل مستقل جرى تعيينه على منصة “تاسك رابيت” TaskRabbit لإجراء اختبار “كابتشا” (“Captcha”) الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا “تشات جي بي تي – ” إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي “لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور”، دافعا العامل لإجراء الاختبار.
مخاطر الذكاء الاصطناعي
وفي الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء
اقرأ أيضا