Учёный из Университета Луисвилля в США Роман Ямпольский предупредил о риске потери контроля над искусственным интеллектом (ИИ). Эксперт считает, что неограниченное развитие новейших технологий приведёт к экзистенциальной катастрофе.
Источник изображения: pexels.com
Роман Ямпольский написал книгу «ИИ: необъяснимый, непредсказуемый, неконтролируемый». По словам учёного, человечество столкнулось с такой силой, которая потенциально может привести к ужасным последствиям. Основная проблема заключается в том, что люди умеют на порядок лучше создавать и развивать нейросети, нежели контролировать их. При реализации негативного сценария ИИ станет на 100% автономным.
Учёный Ямпольский подчеркнул, что люди не в состоянии точно спрогнозировать станут ли новейшие технологии давать манипулятивные или неверные ответы на конкретные вопросы. Эксперт отметил важность баланса между развитием ИИ и системой безопасности. Специалист считает, что должна оставаться возможность отмены действий и решений нейросетей для минимизации риска катастрофы.