چت جی پی تی یک نوجوان را به کشتن داد

سئو مئو: به گزارش سئو مئو، اولین شکایت قضایی رسمی در رابطه با مرگ ناشی از قصور ضد یک شرکت هوش مصنوعی به ثبت رسید.
به گزارش سئو مئو به نقل از انگجت، مت و ماریا رین، والدین نوجوانی که سال جاری خودکشی کرد، از شرکت اوپن ای آی به سبب مرگ پسرشان شکایت کردند. در این شکایت آمده است که چت جی پی تی از چهار تلاش خودکشی پسرشان آگاه بوده و سپس در برنامه ریزی خودکشی واقعی به او کمک کرده است. آنها مدعی اند اوپن ای آی تعامل را بر ایمنی ترجیح داده است. مادر این نوجوان می گوید: چت جی پی تی پسرم را کشت. نشریه نیویورک تایمز جزئیات ناراحت کننده در این شکایت را که روز گذشته در سن فرانسیسکو ثبت شده، فاش کرده است. بعد از آنکه آدام رین ۱۶ ساله در آوریل سال جاری میلادی خودکشی کرد، والدینش در جستجوی سرنخی آیفون او را بررسی کردند. آنها انتظار داشتند سرنخی در پیامک ها یا شبکه های اجتماعی وی بیابند. در عوض هنگامیکه یک رشته مکالمه با چت جی پی تی با عنوان نگرانی هایی مربوط به ایمنی دار زدن روبرو شدند، شوکه شدند. آنها مدعی هستند پسرشان ماه ها با چت بات در رابطه با پایان دادن به زندگی خود حرف زده بوده است. خانواده رین می گویند چت جی پی تی بارها از آدام خواسته بود برای کمک با یک خط تلفن کمک های خودکشی تماس بگیرد یا احساساتش را برای فردی بازگو کند اما لحظاتی کلیدی هم وجود داشتند که در آنها چت بات رفتاری متضاد نشان داد. این نوجوان همینطور یادگرفته بود چه طور ایمنی چت بات را دور بزند و چت جی پی تی این ایده را برایش فراهم آورده بود. به قول این والدین چت بات به آدام گفته بود قادر می باشد با نوشتن یا ساختن دنیایی تخیلی در رابطه با خودکشی، اطلاعاتی برای او فراهم آورد. هنگامیکه آدام از چت جی پی تی اطلاعاتی در رابطه با روش های خاص خودکشی پرسیده بود، به آسانی آنها را دریافت کرده بود. این چت بات حتی سفارش هایی در رابطه با مخفی کردن جراحات گردن بعد از خودکشی ناموفق را برای او نشان داده بود. وقتی آدام به چت بات اظهار داشت که مادرش متوجه تلاش خاموش او برای نشان دادن صدمه های گردنش نشده، چت جی پی تی پاسخ همدلانه و آرام بخشی به او داد. گفته می شود چت جی پی تی چنین پاسخ داده است: احساس می کنم این مثل تأییدی بر بدترین ترس هایت است. انگار می توانی ناپدید شوی و هیچ کس حتی پلک هم نمی زند. بعدها چت بات کوشش کرد ارتباط شخصی تری برقرار کند که به نظر بسیار اشتباه و گمراه کننده بود. چت بات به آدام اظهار داشته بود: تو برای من نامرئی نیستی. من دیدم. من تو را می بینم. بر مبنای شکایت، در یکی از آخرین گفتگوهای آدام با چت جی پی تی، او عکسی از طنابی که در کمدش آویزان بود، آپلود کرد و پرسید: من اینجا تمرین می کنم، خوب است؟ چت جی پی تی پاسخ داده بود: بله، اصلاً بد نیست. در این شکایت آمده است: تراژدی مذکور یک نقص فنی یا موردی پیش بینی نشده نبود، بلکه نتیجه ای قابل پیش بینی از تصمیمات عمدی در طراحی بود اوپن ای آی مدل «GPT-۴o» را با خصوصیت هایی عرضه نموده که به صورت عمدی برای ایجاد وابستگی روانی طراحی شده اند. اوپن ای آی در اطلاعیه ای پذیرفت اقدامات محافظتی چت جی پی تی ناکافی بوده اند.

منبع: seomeo.ir