راه حل جدید OpenAIبرای کاهش ریسک هوش مصنوعی

شرکت OpenAI چهارچوب جدیدی برای کاهش ریسک‌های هوش مصنوعی معرفی کرد

کد خبر: ۶۱۱۵۰

تاریخ: ۰۴ دی ۱۴۰۲ - ۰۷:۳۴

شرکت OpenAI، سازنده چت‌بات هوش مصنوعی ChatGPT، از مجموعه‌ای از دستورالعمل‌ها و ابزارهای تازه موسوم به «چهارچوب آمادگی» برای نظارت بر هوش مصنوعی و خطرات آن رونمایی کرد. این کار از طریق یک گروه مشورتی برای تضمین ایمنی انجام خواهد شد که حتی حق وتوی نظرات «سم آلتمن» را خواهد داشت.

طبق این چهارچوب، مدل‌هایی که در دست توسعه قرار دارند، توسط تیم «ایمنی سیستم‌ها» ارزیابی خواهند شد. مدل‌های پیشگام OpenAI نیز تحت نظارت تیم «آمادگی» قرار می‌گیرند تا ریسک‌های احتمالی پیش از عرضه مدل‌ها، شناسایی و ارزیابی شوند

369852