حذرت مفوضة الأمم المتحدة لحقوق الإنسان، ميشيل باشيليت، من أن تكنولوجيا الذكاء الصناعي يُمكن أن تؤدي إلى “آثار كارثية” إذا استخدمت من دون مراعاة كافية وفهم لمدى تأثيرها على حقوق الإنسان، ودعت إلى إجراء تقييمات لتحديد مدى خطورة عدد من التكنولوجيات المتنوعة على الخصوصية وحرية التنقل والتعبير.
كان مجلس حقوق الإنسان التابع للأمم المتحدة قد أعلن عن تقرير يبحث في كيفية قيام البلدان والشركات التجارية بتنفيذ أنظمة تكنولوجيات الذكاء الصناعي من دون إجراء تقييم مناسب لكيفية عملها وكيف سيكون تأثيرها على المجتمع.
أبرز التقرير كيفية اعتماد أنظمة الذكاء الصناعي على مجموعات كبيرة من البيانات، إضافة إلى معلومات عن الأشخاص الذين يتم جمعها وتبادلها ودمجها وتحليلها بطرق غامضة في أغلب الأحيان. حيث يُمكن – على سبيل المثال – لأنظمة الذكاء الصناعي الإبلاغ عن إرهابي محتمل بدون أي دليل دامغ.
دعت الأمم المتحدة يوم الأربعاء إلى وقف اختياري لعدد من أنظمة الذكاء الصناعي مثل تكنولوجيا التعرف على الوجه (facial recognition technology)، معتبرة أنها تهدد حقوق الإنسان، إلى أن يتم وضع آليات ضد أي انتهاكات محتملة.
أضافت باشيليت أنه يجب اتخاذ إجراءات لوضع آليات حماية لحقوق الإنسان من تبعات استخدام الذكاء الصناعي لما فيه خير الجميع.
أكدت باشيليت أهمية أن تنظم الدول الإعتماد على التكنولوجيا والذكاء الصناعي.
أضافت أنه بينما تجري هذه التقييمات: “ينبغي للدول أن توقف استخدام التكنولوجيا التي يُحتمل أن تحتوي على مخاطر كبيرة”.
في الوقت نفسه، أكدت باشيليت بأن فاعلية التكنولوجيا والذكاء الصناعي في خدمة الناس لا يمكن إنكارها، وقالت إن يمكن لهذه التقنية زيادة انتهاكات حقوق الإنسان على نطاق واسع دون أن يكون لها أي أثر تقريباً.
وجد التقرير أن أنظمة الذكاء الصناعي تُستخدم لتحديد من يستطيع الحصول على الخدمات العامة، والتوظيف، ويمكنها التأثير على المعلومات المتداولة بين الناس، حيث يمكن للذكاء الصناعي مشاركتها على الإنترنت.
تسببت العيوب الموجودة في أنظمة الذكاء الصناعي في حرمان الناس ظلمًا من استحقاقات الضمان الاجتماعي، في حين ألقي القبض على أشخاص أبرياء بسبب عيوب في تكنولوجيا التعرف على الوجه.
يرى باشيليت أنّ خطر التمييز المرتبط بالقرارات التي تحركها أنظمة الذكاء الصناعي، والتي يمكن أن تغير أو تحدد أو تضر بحياة البشر، يتزايد، مما يمثل “خطرًا حقيقيًا.
أشار تقرير الأمم المتحدة إلى أن خوارزميات أنظمة الذكاء الصناعي تستخدم بيانات قديمة ومتحيزة، مما ينعكس على تنبؤاتها.
ينصح تقرير الأمم المتحدة بعدم استخدام تكنولوجيات التعرف البيولوجي عن بعد في الأماكن العامة، إلى أن تُثبت السلطات امتثالها لمعايير الخصوصية وحماية البيانات، وأن تتسم بقدر كبير من الدقة أو لا تعاني من مشاكل التمييز.