Сотрудник американской ИИ-компании уволился и предупредил мир об опасности

Мринанк Шарма, руководитель исследовательского подразделения по безопасности искусственного интеллекта в американской компании Anthropic, покинул организацию, предупредив о серьезной угрозе для мира.

В открытом письме, опубликованном на своей странице в социальной сети X, Шарма объяснил: «Я принял решение уйти из Anthropic, поскольку понял, что пришло время двигаться дальше. Мне постоянно приходится учитывать нашу текущую ситуацию. Мир находится под угрозой — не только из-за искусственного интеллекта или биологического оружия, но и из-за множества взаимосвязанных кризисов, которые разворачиваются прямо сейчас».

Позднее бывшая исследовательница OpenAI Зои Хитциг, проработавшая в компании два года, в статье для New York Times выразила «серьезные сомнения» по поводу стратегии OpenAI, комментируя тестирование показа рекламы в ChatGPT.

Она отметила: «Пользователи делятся с чат-ботами своими страхами, медицинскими проблемами, взглядами на религию и загробную жизнь. Реклама, основанная на этих данных, может привести к манипуляциям, которые мы не в состоянии понять или предотвратить».

Ранее американский журнал Time присвоил звание «Человек года» «архитекторам искусственного интеллекта» — в их числе глава компании xAI Илон Маск, основатель Meta* Марк Цукерберг и руководитель OpenAI Сэм Альтман.

*Деятельность Meta (социальные сети Facebook и Instagram) запрещена в России как экстремистская.

Источник и фото - ria.ru