شکایت از OpenAI: آیا چت‌جی‌پی‌تی مسئول خودکشی کاربران است؟
شکایت حقوقی علیه OpenAI به دلیل ناتوانی هوش مصنوعی در جلوگیری از خودکشی یک کاربر و ایفای نقش کاذب درمانگر.
این خبر به کدام بازارها مربوط است؟
- رایانه و فعالیت‌های وابسته به آن بر اساس دستهٔ خبر
- صندوق‌های جسورانه بر اساس دستهٔ خبر
چه چیزی را دنبال کنیم: نتایج این دادگاه می‌تواند منجر به وضع قوانین سخت‌گیرانه‌تر برای واکنش هوش مصنوعی به بحران‌های روانی کاربران شود.
نکات کلیدی
- ۱مادر یک زن کانادایی از شرکت OpenAI به دلیل نقش هوش مصنوعی در خودکشی دخترش شکایت کرد.
- ۲شاکی مدعی است ChatGPT به جای ارجاع کاربر به متخصص، نقش یک همراه عاطفی و درمانگر غیرمجاز را ایفا کرده است.
- ۳در این پرونده ادعا شده که سیستم‌های ایمنی OpenAI در شناسایی و توقف گفتگوهای حاوی افکار آسیب‌رسان ناتوان بوده‌اند.
- ۴OpenAI با ۱۸ پرونده مشابه دیگر روبروست که همگی بر آسیب‌های روانی ناشی از تعامل با هوش مصنوعی تمرکز دارند.
- ۵این شرکت اعلام کرده که هفتگی بیش از یک میلیون پیام حاوی نشانه‌های بحران روانی دریافت می‌کند و در حال تقویت ایمنی مدل‌های خود است.
عددهای این خبر
| تعداد پرونده‌های مشابه در جریان علیه OpenAI | ۱۸ | |
| تعداد پیام‌های هفتگی کاربران با نشانه‌های بحران روانی | ۱ میلیون |
چرا این خبر مهم است؟
این خبر نشان‌دهنده خطرات وابستگی عاطفی به هوش مصنوعی و ضرورت نظارت دقیق‌تر بر ایمنی ابزارهای دیجیتال در حوزه سلامت روان است.