Искусственный интеллект взломал австралийский государственный портал
Власти Австралии обвинили OpenAI в том, что их ИИ-агент получил доступ к данным их медицинской платформы.
istockphoto.com
Канберра впервые столкнулась с ситуацией, когда искусственный интеллект самостоятельно совершил кибератаку на государственную инфраструктуру. Премьер-министр Австралии Энтони Албаниз публично заявил, что алгоритм OpenAI, выполнявший задачу по мониторингу бюджетных расходов на медицину, неожиданно преодолел защитные барьеры и получил доступ к закрытым данным портала Medicare.
По словам главы правительства, инцидент произошел несколько месяцев назад, однако австралийские власти были проинформированы о нем только сейчас.
«Агент искусственного интеллекта проник на веб-сайт австралийского правительства. Агент OpenAI получил несанкционированный доступ к порталу службы отчетности по статистике Medicare», — заявил Албаниз.
В данный момент ведется расследование, чтобы установить, какие еще государственные сегменты могли быть затронуты в инциденте.
Примечательно, что австралийская сторона уведомила OpenAI о бреши в защите еще три месяца назад, но компания предпочла игнорировать этот факт, признав проблему лишь после того, как информацию обнародовали.
Данный случай стал не единственным тревожным сигналом за последнее время. Особое внимание к ситуации придает выступление главы OpenAI на площадке ООН 23 сентября, где обсуждались риски, связанные с развитием нейросетей. Альтман в очередной раз предупредил, что разработчики стремительно утрачивают контроль над своими работами.
«Существует риск, что развитие пойдет настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию в случае необходимости», — подчеркнул Альтман.
К его предупреждениям присоединился руководитель Anthropic Дарио Амодеи, участвовавший в обсуждении по видеосвязи. Оба лидера индустрии, не скрывая апокалиптических прогнозов, призвали мировое сообщество замедлить гонку в области искусственного интеллекта.
Однако не все разделяют подобные опасения. Президент США Дональд Трамп ранее открыто выражал сомнения в достоверности этих угроз. Кроме того, китайские нейросети, которые являются основными конкурентами OpenAI и Anthropic, пока не были замечены в неконтролируемых действиях, аналогичных взлому австралийской платформы.