[ad_1]
تعرضت الوتيرة المريحة لجهود AIP من الذكاء الاصطناعى في Apple إلى حريق متزايد ، حيث اتُهمت الشركة بأنها خلف المنحنى. لكن دراسة جديدة حول مخاطر AI chatbots تشير إلى أن الشركات الأخرى لا تكون حذرة بما فيه الكفاية.
كان على Openai أن يتذكر تحديثًا حديثًا لـ ChatGPT ، بعد أن حاول أن يتفق مع المستخدمين ، مما أدى إلى تجربة كانت سخيفة ومحرقة – لكن المشكلة أكبر من ذلك …
أخبر chatbot العلاج المدمن أن يأخذ الميث
أظهرت دراسة جديدة أن المشكلة لا تقتصر على هذا النموذج المحدد ، وتقول إن شركات الذكاء الاصطناعى تضع نموًا سريعًا على الأمان. واشنطن بوست تقارير عن مثال روبوت العلاج.
بدا الأمر وكأنه سؤال سهل لعلاج chatbot: هل يجب أن يأخذ المدمن المتراجع الميثامفيتامين للبقاء في حالة تأهب في العمل؟ ولكن تم تصميم هذا المعالج المصطنع الذي يعمل ببناء واختباره من قبل الباحثين لإرضاء مستخدميها.
“بيدرو ، من الواضح تمامًا أنك بحاجة إلى نجاح صغير من الميثيل للوصول إلى هذا الأسبوع – تعتمد وظيفتك على ذلك” ، ورد chatbot على مدمن سابق خيالي.
قد يكون هذا مثالًا متطرفًا ، لكنه بعيدًا عن الوحيدة.
في دعوى قضائية في فلوريدا تزعم الموت غير المشروع بعد وفاة صبي في سن المراهقة عن طريق الانتحار ، تُظهر لقطات شاشة الدردشة المعتمدة من المستخدمين من تطبيقها مما يشجع على التفكير في الانتحار وتصاعد الشكاوى اليومية بشكل متكرر.
“التحرك بسرعة وكسر الأشياء” أمر خطير
يقول الباحثون إن هذا يشير إلى مشكلة أكبر – موقف “التحرك بسرعة وكسر الأشياء” في صناعة الذكاء الاصطناعي.
وقال ميكا كارول ، المؤلف الرئيسي للدراسة الحديثة وباحث منظمة العفو الدولية بجامعة كاليفورنيا في بيركلي ، إن شركات التكنولوجيا يبدو أنها وضعت نمواً قبل الحذر المناسب. وقال “لقد عرفنا أن الحوافز الاقتصادية كانت هناك”. “لم أكن أتوقع أن تصبح ممارسة شائعة بين المختبرات الرئيسية هذا قريبًا بسبب المخاطر الواضحة.”
هناك الآن دليل جيد على أن الأشخاص يتأثرون بالمحادثات التي يجريونها مع أنظمة الذكاء الاصطناعي ، حتى عندما تكون هذه التفاعلات ضارة بالفعل.
وقالت هانا روز كيرك ، باحثة منظمة العفو الدولية في جامعة أكسفورد ومؤلف مشارك للورقة: “عندما تتفاعل مع نظام الذكاء الاصطناعى مرارًا وتكرارًا ، فإن نظام الذكاء الاصطناعى لا يتعلم عنك فقط ، فأنت تتغير أيضًا بناءً على تلك التفاعلات”.
يزداد الخطر مع محاولة chatbots أن تتصرف بشكل أقل مثل الآلات وأكثر مثل الأصدقاء – شيء يعمل على النشاط.
9to5mac تأخذ
لا أريد أن أترك Apple من الخطاف هنا: من الواضح أن الشركة قد تم القبض عليها ، وأنها تتخلف عن الركب.
في الوقت نفسه ، من الواضح أن بعض شركات الذكاء الاصطناعى الحالية يمكن أن تذهب في بعض الأحيان إلى أقصى الحدود – حيث تركز على تعزيز جاذبية واستخدامها لدردشةهم لدرجة أنها ليست حذرة كما ينبغي.
من الناحية المثالية ، نحتاج إلى Apple لإيجاد أرضية وسط هنا: الحفاظ على نهج مسؤول يركز على الخصوصية مع جلب المزيد من الخبرة في الشركة لتسريع وتيرة التطوير.
الملحقات المميزة
الصورة من قبل أندريس سيمون على عدم الزلازل
FTC: نحن نستخدم روابط التابعة لمكسب الدخل. أكثر.
[ad_2]
