مرکز ایمنی هوش مصنوعی (CAIS – تلفظ شده “مورد”) یک سازمان غیرانتفاعی تحقیقاتی و میدانی مستقر در سانفرانسیسکو است. این سازمان بر این باور است که هوش مصنوعی (AI) این ظرفیت بالقوه را دارد که عمیقاً برای جهان مفید باشد، مشروط بر اینکه بتوانیم آن را با خیالی آسوده توسعه دهیم و از آن بهره‌برداری کنیم. با این حال، برخلاف پیشرفت چشمگیر در هوش مصنوعی، بسیاری از مشکلات اساسی در ایمنی هوش مصنوعی هنوز حل نشده اند. ماموریت این سازمان کاهش خطرات مرتبط با هوش مصنوعی در مقیاس اجتماعی با انجام تحقیقات ایمنی، ایجاد زمینه محققان ایمنی هوش مصنوعی و حمایت از استانداردهای ایمنی است. گزارش حاضر اخیرا توسط این سازمان منتشر شده است که در دو بخش در سایت فلسفۀ پزشکی منتشر می شود.
بورس فلسفه هوش مصنوعی به منظور ایضاح و روشن سازی ریسک های هوش های مصنوعی پیشرفته به مدت هفت ماهه است و این محورهای برای پژوهش پیشنهاد شده است:
اجرای تصمیم گیری اخلاقی
ریسک ها، پویایی ها، استراتژی ها
تنش در طراحی سیستم های هوش مصنوعی
نقد ادبیات موجود
به نقل از https://philosophy.safe.ai/