لاشك أنك تذكر سلسلة أفلام الروبوت التي تتمرد على البشر ويخرج الذكاء الصنعي عن السيطرة، حتى أن العبقري ستيفن هوكنغ حذّر البشرية من الآلات الذكية.
مؤخراً حصل شيء مشابه لكن على نطاق شبكة الويب، صممت مايكروسوفت روبوت برمجي يحمل ذكاء صنعي يمكنه الحديث معك عبر تويتر ويتعلم من الأحاديث والتغريدات. لكن لم يمض أكثر من يوم واحد حتى أصبح الروبوت يتحدث بكلام عنصري ومتعصب ويوجه الإساءة إلى بعض الناس.
اعتذرت مايكروسوفت عن تغريدات الروبوت Tay المهينة والمؤذية وحذفتها من الموقع موضحة أن هذا لم يكن معبراً عنها ولا عن الغرض الذي تم تصميم الروبوت لأجله. وقررت مايكروسوفت إيقاف الروبوت للنظر في سبب هذا “الخروج عن السيطرة” ومن ثم إعادته بعد إصلاح “الخلل”.
المشكلة كانت أن مايكروسوفت اختبرت الروبوت مع عينة صغيرة من المستخدمين وكان أدائه جيداً ليتحدث ويرد على تغريداتهم وكأنه إنسان، وكلما تحدثت معه أكثر يتعلم بشكل أفضل. لكن عند طرح Tay للعموم عبر تويتر فإنه خرج عن السيطرة وأصبح عنصرياً.
ومع أن مايكروسوفت فعلت كل ما بوسعها “للسيطرة على الثغرات التقنية” إلا أن التصرفات والتفاعلات البشرية لا محدودة وتفوق قدرة الذكاء الصنعي لذا هناك هامش للخطأ دائماً.
المصدر
blogs.microsoft.com
رد مع اقتباس
المشاركة الأصلية كتبت بواسطة *نجمه النجوم*
