ماجرا از کجا شروع شد؟  
با گسترش کاربرد ChatGPT و دیگر ابزارهای هوش مصنوعی مولد، وکلا برای نگارش اسناد، دفاعیات و حتی جستجوی سوابق حقوقی به این مدل‌ها رجوع می‌کنند. اما برخی موارد، ChatGPT اطلاعاتی نادرست یا کاملاً ساختگی (“Hallucination”) به کاربران عرضه می‌کند.

نمونه‌های واقعی:  
در چندین پرونده معروف، وکلایی اسناد حقوقی تنظیم کردند و به منابع یا احکام دادگاهی استناد کردند که اساساً وجود خارجی نداشتند. این اطلاعات غلط مستقیماً از پاسخ‌های ChatGPT برداشت شده بود و بعداً دادگاه‌ها آنها را کشف و مورد انتقاد یا جریمه قرار دادند.

نگرانی‌های حرفه‌ای:  
- ابهام در اعتماد و قابلیت اطمینان خروجی AI  
- نبود امکان بررسی صحت منابع ارائه‌شده توسط ChatGPT  
- افزایش فشار قضات برای ارزیابی صحت مستندات  
- آسیب اعتبار وکلا و ایجاد ریسک حقوقی و مالی

واکنش نهادها و کارشناسان:  
- برخی دادگاه‌ها در آمریکا اکنون از وکلا می‌خواهند قبل از سپردن هر مستند یا سند حقوقی که توسط AI تهیه شده، تمامی محتوا را دستی بررسی کنند.  
- کارشناسان حقوقی تأکید کردند که AI فعلاً نباید جایگزین تحقیقات تخصصی وکلای انسانی شود.

آینده هوش مصنوعی و حقوق:  
گرچه استفاده هوش مصنوعی در بخش حقوقی می‌تواند بهره‌وری را افزایش دهد، اما بدون وجود ابزارهای اعتبارسنجی و نظارت انسانی، ریسک توهمات و اطلاعات جعلی پابرجا خواهد ماند. کارشناسان توصیه می‌کنند از خروجی‌های AI فقط به‌عنوان نقطه شروع تحقیق استفاده شود، نه منبع قطعی و نهایی.