ورود شتابان هوش مصنوعی به خدمات حقوقی/ آیا مدل‌ها می‌توانند از پس پرونده‌های قضایی برآیند؟

شرکت‌های فعال در حوزه هوش مصنوعی با سرعتی بیشتر از توان نظام قضایی برای برخورد با استفاده نادرست از این فناوری، در حال عرضه ابزار‌هایی برای وکلا هستند، محصولاتی که با هدف کمک به انجام امور حقوقی و قضایی طراحی شده‌اند، اما هم‌زمان با افزایش موارد استفاده نادرست از مدل‌های هوش مصنوعی و ارائه اسناد حاوی استناد‌های جعلی در دادگاه‌ها، پرسش‌هایی جدی درباره میزان قابلیت اعتماد به این فناوری ایجاد شده است.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، در سال جاری میلادی سه شرکت از چهار آزمایشگاه بزرگ هوش مصنوعی، محصولات یا برنامه‌هایی را با تمرکز بر جامعه حقوقی عرضه یا معرفی کرده‌اند. گوگل در اواخر ماه اوت نسخه پیش‌نمایش Gemini Enterprise for Legal را با مشارکت چهار شرکت حقوقی بزرگ جهان ارائه کرد. این اقدام سه ماه پس از آن انجام شد که شرکت آنتروپیک محصول حقوقی خود را که اکنون با عنوان Claude Legal Solutions شناخته می‌شود عرضه کرد.

ایلان ماسک نیز در این حوزه علاقه‌مندی نشان داده و شرکت هوش مصنوعی SpaceXAI صفحه‌ای اختصاصی برای راهکار‌های حقوقی در وب‌سایت خود ایجاد کرده است.

این ورود گسترده به حوزه خدمات حقوقی در شرایطی رخ می‌دهد که همچنان وکلا به دلیل ارائه اسناد قضایی تولیدشده با کمک هوش مصنوعی که حاوی پرونده‌ها و استناد‌های حقوقی جعلی هستند، با جریمه و انتقاد مواجه می‌شوند.

افزایش پرونده‌های حقوقی حاوی استناد‌های جعلی

یکی از نمونه‌های اخیر به پرونده شهریار مظاهری (Shahryar Mazaheri)، وکیل در کانادا مربوط می‌شود. دادگاه انتظامی انجمن حقوقی انتاریو در ماه ژوئن او را به پرداخت بیش از ۳۱ هزار دلار محکوم کرد، زیرا اسناد حقوقی تهیه‌شده با کمک مدل Grok حاوی استناد‌های جعلی به پرونده‌ها و اصول حقوقی ساختگی بودند.

بر اساس اسناد این پرونده انجمن حقوقی انتاریو در دسامبر سال گذشته مشخص کرد که مظهرعی برای تهیه یک factum یا متن استدلال حقوقی مکتوب برای تجدیدنظرخواهی موکل خود از نسخه‌ای قدیمی‌تر از Grok استفاده کرده است. خروجی این مدل شامل استناد‌های ساختگی و اصول حقوقی ابداع‌شده بود.

در تصمیم صادرشده درباره هزینه‌های این پرونده در ماه ژوئن مظاهری به پرداخت ۳۱ هزار و ۱۵۰ دلار محکوم شد. هیات رسیدگی‌کننده در توضیح تصمیم خود تأکید کرد که یک مدل زبانی بزرگ (LLM) نمی‌تواند ظرافت‌های موضوعات حقوقی را درک کند، قضاوت انسانی داشته باشد یا از یک قطب‌نمای اخلاقی استفاده کند و تمایل زیادی دارد که به جای پذیرش ناآگاهی پاسخی ارائه دهد حتی اگر آن پاسخ نادرست باشد.

قضات و کارشناسان رسیدگی‌کننده برخی از مطالب تولیدشده توسط هوش مصنوعی در این پرونده را بی‌معنا توصیف کردند.

این مشکل به وکلای کم‌تجربه محدود نمی‌شود. شرکت حقوقی آمریکایی Sullivan & Cromwell که یکی از پردرآمدترین موسسات حقوقی ایالات متحده محسوب می‌شود و حقوق پایه وکلای سال اول آن به ۲۲۵ هزار دلار می‌رسد نیز با چنین مشکلی مواجه شده است.

این شرکت در ماه آوریل نامه‌ای اضطراری به دادگاه منطقه جنوبی نیویورک ارسال کرد پس از آنکه مشخص شد یک درخواست قضایی مربوط به ورشکستگی که به قاضی ارشد Martin Glenn ارائه شده بود شامل ۴۲ مورد اطلاعات ساختگی تولیدشده توسط هوش مصنوعی بوده است.

آمار مربوط به دادگاه‌های کانادا نیز از افزایش این پدیده حکایت دارد. موارد گزارش‌شده مربوط به استناد‌های جعلی در اسناد قضایی کانادا از تنها ۷ مورد در سال ۲۰۲۴ به ۸۶ مورد در سال ۲۰۲۵ افزایش یافته است. در سه ماهه نخست سال ۲۰۲۶ نیز ۳۹ مورد دیگر گزارش شده است.

پایگاه داده پژوهشگر Damien Charlotin تاکنون نزدیک به ۲ هزار پرونده در سراسر جهان را ثبت کرده است که در آنها از استناد‌ها یا مطالب حقوقی ساختگی تولیدشده با هوش مصنوعی استفاده شده است. این موارد بیش از ۸۰۰ وکیل و حدود ۱۱۰۰ فردی که بدون وکیل از خود در دادگاه دفاع کرده‌اند را شامل می‌شود.

حتی وکیل ربات هم با مقاومت مواجه شد

استفاده از هوش مصنوعی در امور قضایی البته موضوع تازه‌ای نیست. شرکت DoNotPay در اوایل سال ۲۰۲۳ قصد داشت یک وکیل ربات مبتنی بر هوش مصنوعی را برای دفاع از یک پرونده در دادگاه به کار بگیرد.

این شرکت در نهایت از این برنامه صرف‌نظر کرد، زیرا کانون‌های وکلا در ایالت‌های آمریکا تهدید کرده بودند که چنین اقدامی می‌تواند با پیگرد کیفری مواجه شود. با این حال شرکت‌های بزرگ هوش مصنوعی اکنون به جای تلاش برای جایگزینی کامل وکلا بر ارائه ابزار‌هایی متمرکز شده‌اند که بتواند بخشی از فرایند‌های پیچیده حقوقی را برای آنها انجام دهد.

تلاش شرکت‌های هوش مصنوعی برای ساخت ابزار‌های قابل راستی‌آزمایی

گوگل و آنتروپیک هر دو در معرفی محصولات حقوقی خود بر اهمیت راستی‌آزمایی و اتکا به منابع معتبر حقوقی تاکید کرده‌اند.
محصول حقوقی گوگل برای پاسخ‌گویی به درخواست‌های کاربران از طریق اتصال به پایگاه‌ها و ابزار‌های خارجی حقوقی مانند Everlaw و NetDocuments استفاده می‌کند؛ بنابراین مدل صرفا به اطلاعات موجود در داده‌های آموزشی خود متکی نیست و می‌تواند اطلاعات مورد نیاز را از منابع خارجی دریافت کند.

Thomas Kurian مدیرعامل Google Cloud هنگام معرفی این محصول گفت اطمینان از اینکه تمام بخش‌های فرایند‌های عامل‌محور (agentic workflows) دقیق، واقعی و مبتنی بر منابع معتبر حقوقی باشند اهمیت بسیار زیادی دارد.

چهار شرکت حقوقی بزرگ جهان یعنی Gottlieb، Freshfields، Weil و Williams & Connolly نیز در برنامه پیش‌نمایش این محصول مشارکت دارند.

آنتروپیک نیز رویکرد مشابهی در محصول Claude Legal Solutions اتخاذ کرده است. این محصول reportedly شامل حدود ۲۰ اتصال به پلتفرم‌های حقوقی و ۱۲ افزونه از پیش ساخته‌شده است که برای انجام وظایف مختلف حقوقی طراحی شده‌اند.

این شرکت همچنین اعلام کرده است که مدل Opus ۴.۷ در آزمون استدلال حقوقی BigLaw Bench به امتیاز ۹۰.۹ درصد دست یافته است. شرکت حقوقی Freshfields و Quinn Emanuel نیز از جمله مشتریان این محصول معرفی شده‌اند.

تفاوت مهم چنین ابزار‌هایی با مواردی مانند پرونده مظهرعی این است که مدل به جای تولید استناد‌های حقوقی صرفا بر اساس حافظه یا داده‌های آموزشی خود، می‌تواند آنها را از منابع خارجی و قابل بررسی دریافت کند.

وضعیت ابزار حقوقی مبتنی بر Grok

در مقابل اطلاعات منتشرشده درباره راهکار حقوقی مبتنی بر Grok که توسط SpaceXAI ارائه شده محدودتر است.

در یک پست منتشرشده در وبلاگ Cursor مدل Grok ۴.۵ برای حوزه‌هایی مانند امور مالی، فعالیت‌های حقوقی و سایر کار‌هایی که روی رایانه انجام می‌شوند مناسب توصیف شده بود. با این حال معرفی رسمی بعدی این مدل از سوی SpaceXAI بیشتر بر حوزه‌هایی مانند برنامه‌نویسی، وظایف عامل‌محور و فعالیت‌های دانش‌محور تمرکز داشت و اشاره مشخصی به کاربرد‌های حقوقی نکرد.

صفحه اختصاص‌یافته به راهکار‌های حقوقی نیز اطلاعات مشخصی درباره معماری سیستم یا سازوکار مورد استفاده برای ردیابی استناد‌ها تا منابع اولیه حقوقی ارائه نمی‌کند.

شرکت SpaceX نیز در تاریخ ۱۵ اوت شرکت Cursor را با ارزش ۶۰ میلیارد دلار خریداری کرد، موضوعی که باعث شده فعالیت‌های بازاریابی حقوقی Cursor در چارچوب اکوسیستم Grok نیز مورد توجه قرار گیرد.

مسئولیت نهایی همچنان بر عهده وکیل است

با وجود تلاش شرکت‌های هوش مصنوعی برای افزایش دقت و اتصال مدل‌ها به منابع معتبر پژوهش‌های مستقل نشان می‌دهند که حتی ابزار‌های تخصصی حقوقی نیز از خطا و توهم‌زایی مصون نیستند.

در یک مطالعه انجام‌شده در سال ۲۰۲۴، آزمایشگاه RegLab دانشگاه استنفورد ابزار‌های حقوقی اختصاصی شرکت‌های LexisNexis و Westlaw را بررسی کرد و نرخ توهم‌زایی آنها را به‌ترتیب ۱۷ درصد و ۳۳ درصد گزارش کرد. با این حال تاکنون ارزیابی مستقل و مشابهی درباره ابزار‌های حقوقی جدید گوگل یا آنتروپیک منتشر نشده است.

در نظام‌های حقوقی وکلا همچنان مسئولیت بررسی و تایید استناد‌هایی را که به دادگاه ارائه می‌کنند بر عهده دارند صرف‌نظر از اینکه این مطالب با کمک هوش مصنوعی تهیه شده باشند یا به شکل سنتی توسط خود وکیل نوشته شده باشند.

به همین دلیل جریمه ۳۱ هزار و ۱۵۰ دلاری مظهرعی نیز صرفا به دلیل استفاده از هوش مصنوعی اعمال نشد بلکه علت اصلی آن ارائه مطالب و استناد‌هایی بود که به‌طور کامل بررسی و راستی‌آزمایی نشده بودند.

در نتیجه حتی اگر ابزار‌های حقوقی هوش مصنوعی به پایگاه‌های داده معتبر متصل شوند و سازوکار‌های بیشتری برای جلوگیری از تولید اطلاعات جعلی در آنها تعبیه شود، مسئولیت نهایی بررسی صحت اطلاعات و استناد‌های ارائه‌شده به دادگاه همچنان بر عهده وکیل خواهد بود.

انتهای پیام/