چرا پیچیدگی باعث شکست عامل های هوش مصنوعی می شود؟

گزارش های جدید نشان می دهد که عامل های هوش مصنوعی با وجود نمایش های خیره کننده در محیط های آزمایشی، در مواجهه با وظایف پیچیده و چندمرحله ای در دنیای واقعی به شدت آسیب پذیر هستند؛ - گزارش های جدید نشان می دهد که عامل های هوش مصنوعی با وجود نمایش های خیره کننده در محیط های آزمایشی، در مواجهه با وظایف پیچیده و چندمرحله ای در دنیای واقعی به شدت آسیب پذیر هستند؛ این تجمع خطاها می تواند منجر به شکست گسترده پروژه های تجاری مبتنی بر هوش مصنوعی شود.

به گزارش خبرگزاری صداوسیما، پژوهش های منتشر شده از سوی استک ادمیک حاکی از آن است که بزرگ ترین چالش فعلی عامل های هوش مصنوعی، نه توانایی انجام وظایف، بلکه قابلیت اعتماد در محیط های واقعی است.

بر اساس این گزارش، برخلاف دموهای تبلیغاتی که تنها موفقیت در یک وظیفه ساده را نشان می دهند، در محیط واقعی این سامانه ها باید ده ها مرحله مختلف (از درک درخواست تا تحویل نتیجه نهایی) را پشت سر بگذارند.

نویسندگان این گزارش با استفاده از یک مدل ریاضی توضیح می دهند که احتمال موفقیت کل یک فرایند، برابر است با احتمال موفقیت هر مرحله به توان تعداد مراحل.

به این معنا که حتی اگر هر مرحله 95 درصد موفقیت داشته باشد، با افزایش تعداد مراحل، احتمال شکست کل عملیات به سرعت افزایش می یابد.