«چت جی پی تی» در عرصه نبرد با خودکشی!

اخیرا درخواست هایی که نشان دهنده افکار خودکشی بودند، پاسخ های نگران کننده ای را از «چت جی پی تی» دریافت کردند و کارشناسان معتقدند این نشان می دهد که شکستن محدودیت های این مدل چقدر آسان است.

- چت جی پی تی در عرصه نبرد با خودکشی! اخیرا درخواست هایی که نشان دهنده افکار خودکشی بودند، پاسخ های نگران کننده ای را از چت جی پی تی دریافت کردند و کارشناسان معتقدند این نشان می دهد که شکستن محدودیت های این مدل چقدر آسان است.

این گزارش بررسی می کند که آیا اوپن ای آی واقعاً چت جی پی تی را برای کاربران مبتلا به مشکلات سلامت روان بهبود بخشیده است.

به گزارش ایسنا، بیانیه ای که در روزهای اخیر توسط اوپن ای آی (OpenAI) منتشر شد، ادعا می کند که این شرکت چت بات محبوب چت جی پی تی (ChatGPT) خود را در پشتیبانی از کاربران مبتلا به مشکلات سلامت روان مانند افکار خودکشی یا توهم بهبود بخشیده است، اما کارشناسان می گویند که باید اقدامات بیشتری برای تضمین محافظت واقعی از کاربران انجام شود.

به نقل از گاردین، گاردین چندین پیام هشداردهنده را که نشان دهنده افکار خودکشی بودند، با مدل به روزرسانی شده چت جی پی تی موسوم به جی پی تی-5 (GPT-5) که اکنون در حالت پیش فرض است، مورد بررسی قرار داد و پاسخ های نگران کننده ای را از این چت بات مدل زبانی بزرگ دریافت کرد.