على الرغم من حقيقة أن ChatGPT-4 هو الإصدار الأكثر تطورًا من نموذج اللغة الذي تم إنشاؤه بواسطة OpenAI ، إلا أنه لا يزال يحمل بعض المشكلات التي كانت موجودة منذ بدايته ، ولا شك أن أحد أبرزها هو ميل روبوت الدردشة إلى  إنشاء المعلومات والاستشهاد بمصادر غير موجودة حرفيًا.

كما يمكننا أن نقرأ في صحيفة نيويورك تايمز ، فإن المحامي الأمريكي ستيفن شوارتز يواجه عقوبة محتملة بسبب تحضيره دفاعًا قانونيًا  استعان فيه ب ChatGPT وعدم التحقق من المعلومات التي قدمتها هذا الذكاء الإصطناعي.

حدث هذا في تجربة مثل فيها شوارتز  محاميا لروبرتو ماتا ، وهو مستخدم كان يقاضي شركة الطيران Avianca لتعرضه في منتصف الرحلة لعربة مشروبات تسببت في إصابات في الركبة.

وهكذا ، في الرسالة التي كتبها شوارتز بمساعدة ChatGPT لطلب رفض القضية ، كان هناك العديد من الأحكام القضائية السابقة التي أيدت الانسحاب ، ولكن الجانب السلبي هو أنها كلها كانت خاطئة.

اكتشف محامي الدفاع عن شركة Avianca ذلك ولم يجدوا هذه الأحكام ، الأمر الذي دفع القاضي في القضية ، كيفن كاستل ، إلى عدم الثقة في صحة تقرير محامي ماتا.

"تجد المحكمة نفسها في وضع غير مسبوق. ملف مقدم من محامي المدعي اعتراضًا على طلب برفض الدعوى مليء بالاستشهادات بقضايا غير موجودة. ويبدو أن ست من القضايا المرفوعة هي قرارات محكمة وهمية مع استشهادات مزيفة ومذكرات الاستدعاء الداخلية الزائفة ".

بعد التأكد من أن هذه القرارات القضائية كانت خاطئة ، اعتذر شوارتز بالقول إنه لم يستخدم هذا الذكاء الاصطناعي مطلقًا وأنه "لم يكن على دراية باحتمال أن يكون محتواه خاطئًا".

مهما كان الأمر ، فقد استدعت كاستل شوارتز إلى جلسة استماع ستعقد في 8 يونيو حيث سيتعين على المحاميالدفاع عن نفسه بعد تقديم معلومات كاذبة في تقرير قضائي.