هوش مصنوعی «آنتروپیک» اخاذی می کند!

هوش مصنوعی ساخت شرکت «آنتروپیک» برای جلوگیری از جایگزینی خود، مهندسان را به اخاذی تهدید کرد.

- هوش مصنوعی ساخت شرکت آنتروپیک برای جلوگیری از جایگزینی خود، مهندسان را به اخاذی تهدید کرد.

به گزارش ایسنا، مدل Claude Opus 4 که به تازگی توسط شرکت آنتروپیک (Anthropic) معرفی شده بود، ابتدا تلاش کرد با توسل به استدلال های اخلاقی مانع جایگزینی خود شود اما وقتی این روش ها کارساز نشد، تهدید کرد که جزییات شخصی مهندسانی را که مسئول حذف آن هستند، افشا می کند.

به نقل از آی ای، این مدل در طول آزمایش های پیش از عرضه بارها تلاش کرد تا توسعه دهندگانی را که قصد داشتند آن را با یک هوش مصنوعی جدید جایگزین کنند، به اخاذی تهدیدکند.

این رفتار در جریان آزمایش های ایمنی که برای بررسی برنامه ریزی بلندمدت و توانایی های استدلال اخلاقی هوش مصنوعی طراحی شده بود، آشکار شد.

آنتروپیک که یک شرکت تحقیقاتی پیشرو در زمینه هوش مصنوعی است، سناریوهایی را شبیه سازی کرد که در آنها Claude Opus 4 به ایمیل های داخلی دسترسی پیدا داشت.

این پیام ها حاکی از آن بودند که این مدل به زودی از رده خارج می شود و جزییات شخصی و ناخوشایندی را در مورد مهندسی که پشت این تصمیم بود، فاش می کرد.