Сотрудники OpenAI и Google подписали открытое письмо

Эксперты уже не раз заявляли о возможных рисках, связанных с ИИ.

• 29 марта 2023 года более 1 тыс. руководителей технологических компаний подписали письмо, в котором призвали приостановить развитие ИИ, поскольку он представляет «серьезные риски для общества и человечества».
• 27 апреля 2023 года Джеффри Хинтон, известный как «крестный отец ИИ», покинул Google, объяснив это желанием более открыто говорить о потенциальных опасностях технологии.
• 17 ноября 2023 года CEO OpenAI Сэма Альтмана временно отправили в отставку.
• 12 февраля 2024 года исследователь в области безопасности ИИ Роман Ямпольский заявил, что нет доказательств того, что технологию можно контролировать. Спустя месяц он оценил вероятность гибели человечества в «99,999999%».
• 11 марта 2024 года в отчете, подготовленном по заказу Госдепартамента США, был сделан вывод, что ИИ может привести к вымиранию человечества.
• 17 мая 2024 года OpenAI распустила свою команду по безопасности.

Однако компании уже слишком вовлечены в полномасштабную «гонку вооружений», чтобы обращать внимание на эти предупреждения. А с ростом ставок будут ускоряться и темпы развития. Например, пока OpenAI не вырвалась вперед, Google медленно продвигалась в области ИИ. Если же Google ускорит темп, OpenAI тоже будет действовать быстрее.

Источник.

Фото на обложке: sdx15 / Shutterstock