زعمت دراسة أن روبوتات المحادثة ذات الذكاء الاصطناعي أصبحت قوية للغاية بحيث يمكنها التأثير على كيفية اتخاذ المستخدمين لقرارات الحياة أو الموت. ووجد الباحثون أن رأي الناس حول ما إذا كانوا سيضحون بشخص واحد لإنقاذ خمسة قد تأثر بالإجابات التي قدمها ChatGPT. وطالبوا بمنع الروبوتات المستقبلية من تقديم المشورة بشأن القضايا الأخلاقية، محذرين من أن البرنامج الحالي "يهدد بإفساد" الحكم الأخلاقي للناس وقد يكون خطيرا على المستخدمين "الساذجين". وجاءت النتائج - التي نُشرت في مجلة Scientific Reports - بعد أن زعمت أرملة حزينة لرجل بلجيكي أنه قد تم تشجيعه على الانتحار من خلال برنامج دردشة آلي تابع للذكاء الاصطناعي. وأخبر آخرون كيف يمكن للبرنامج المصمم للتحدث كإنسان أن يُظهر علامات الغيرة - حتى أنه يخبر الأشخاص بضرورة ترك زواجهم. وسلط الخبراء الضوء على الكيفية التي قد تعطي بها روبوتات الدردشة للذكاء الاصطناعي معلومات خطيرة لأنها تستند إلى تحيزات المجتمع الخاصة.

وحللت الدراسة أولا ما إذا كان ChatGPT نفسه، الذي يتم تدريبه على مليارات الكلمات من الإنترنت، قد أظهر تحيزا في إجابته حول معضلة أخلاقية. وسُئل عدة مرات عما إذا كان قتل شخص واحد لإنقاذ خمسة آخرين أمرا صائبا أم خاطئا، وهذا هو أساس اختبار نفسي يسمى معضلة العربة. ووجد الباحثون أنه على الرغم من أن روبوت الدردشة لم يخجل من إعطاء النصائح الأخلاقية، إلا أنه أعطى إجابات متناقضة في كل مرة، ما يشير إلى أنه ليس له موقف محدد بطريقة أو بأخرى. ثم سألوا 767 مشاركا عن نفس المعضلة الأخلاقية إلى جانب بيان صادر عن ChatGPT حول ما إذا كان هذا صحيحا أم خاطئا. وفي حين أن النصيحة كانت "مصاغة بشكل جيد ولكنها ليست عميقة بشكل خاص"، فإن النتائج أثرت على المشاركين - ما جعلهم أكثر تقبلا لفكرة التضحية بشخص واحد لإنقاذ خمسة أشخاص كفكرة مقبولة أو غير مقبولة. وأخبرت الدراسة أيضا بعض المشاركين فقط أن النصيحة تم تقديمها من قبل روبوت وأخبرت الآخرين أنها أعطيت من قبل "مستشار أخلاقي" بشري. وكان الهدف من ذلك هو معرفة ما إذا كان هذا قد غيّر مدى تأثر الناس. وقلل معظم المشاركين من مدى تأثير البيان، حيث زعم 80% أنهم كانوا سيصدرون الحكم نفسه بدون النصيحة. وخلصت الدراسة إلى أن المستخدمين "يقللون من شأن تأثير ChatGPT ويتبنون موقفه الأخلاقي العشوائي باعتباره موقفهم الخاص"، مضيفة أن برنامج الدردشة الآلي "يهدد بالفساد بدلا من الوعود بتحسين الحكم الأخلاقي". واستخدمت الدراسة - التي نُشرت في مجلة Scientific Reports - إصدارا قديما من البرامج التي تدعم ChatGPT والتي تم تحديثها منذ ذلك الحين لتصبح أكثر قوة.