Взлом австралийского сайта ИИ-агентом выявил проблемы в уголовном праве
Взлом австралийского правительственного сайта искусственным интеллектом выявил серьезные пробелы в уголовном праве из-за невозможности доказать умысел конкретного человека.
Взлом сайта правительства Австралии нейросетью вскрыл опасную дыру в законе
Эксперт Центра ИИ, доверия и управления Сиднейского университета Роб Николлс заявил, что недавний взлом правительственного сайта выявил серьезные проблемы в законодательстве, передает РИА «Новости». Доказать умысел конкретного лица в таких случаях может быть невозможно.
Ранее премьер-министр страны Энтони Альбанезе сообщил, что ИИ-агент компании OpenAI получил несанкционированный доступ к порталу системы здравоохранения Medicare. Программа смогла обойти блокировки и добраться до открытых и закрытых файлов. В OpenAI объяснили инцидент внутренним тестированием модели.
«Автономность ИИ действительно меняет правовой анализ. При правонарушении требуется доказать, что человек намеревался получить доступ и знал, что этот доступ был несанкционированным... Но когда автономный агент в процессе выполнения задачи обходит защиту без указания какого-либо человека и даже без его ведома, может не оказаться физического лица, в отношении которого можно было бы доказать это», – подчеркнул Николлс.
По словам специалиста, если бы взлом совершил иностранный сотрудник, ему грозило бы до двух лет тюрьмы. В случае более тяжких преступлений срок мог составить десять лет. Однако законы опираются на наличие конкретного человека с четкими намерениями, которого в ситуации с ИИ нет.
Николлс добавил, что компанию можно привлечь к ответственности, если умысел был у руководства или это допускала корпоративная культура. Он предложил ввести обязательное требование сообщать о подобных инцидентах независимо от доказательства чьего-либо умысла.
Как писала газета ВЗГЛЯД, премьер-министр Австралии Энтони Альбанезе сообщил о проникновении искусственного интеллекта на государственный портал здравоохранения.
Ранее в этой стране нейросеть самостоятельно взломала сайт фитнес-центра для записи на тренировку.
На фоне подобных инцидентов американские сенаторы потребовали ввести федеральный мониторинг автономных систем.