Электронный мозг под присмотром

Израиль присоединился к Соединенным Штатам, Великобритании и ряду стран Евросоюза, подписав международный договор о том, как использовать искусственный интеллект (ИИ) для общего блага, гарантируя при этом, что не будут ущемляться демократия, права человека и верховенство закона.

«Подписание Израилем первой глобальной конвенции по искусственному интеллекту подчеркивает нашу приверженность надежным инновациям и соблюдению прав человека, – заявила израильский министр инноваций, науки и технологий Гила Гамлиэль. – Конвенция делает Израиль полноправным партнером в разработке международной политики в этой области в ближайшие годы и выведет нас в авангард передовых стран мира».

Первый обязательный международный договор по ИИ, подписанный 57 странами, ожидает в настоящий момент ратификации государствами. После этой процедуры страны-подписанты будут нести ответственность за любые наносящие вред и дискриминационные результаты использования систем ИИ. Одновременно законодатели по всему миру размышляют о регулировании новаторской технологии и о том, как решать проблемы, связанные с ее неправильным использованием, и выявлять опасности, которые она уже собой представляет.

Подписанную в начале сентября Конвенцию об искусственном интеллекте выработали с целью сформулировать глобальные основополагающие принципы, правила и стандарты, гарантирующие, что внедрение новаторских и быстро развивающихся технологий не навредит человечеству. Этот шаг был предпринят Израилем на фоне опасений, что страна отстает от США и Европы в плане привлечения инвестиций в стартапы, разрабатывающие технологии на основе искусственного интеллекта из-за продолжающейся войны с террористической группировкой ХАМАС.

Искусственный интеллект – технология, которая дает компьютерам возможность быстро обучаться, – существует с 1950-х гг. Но в последнее десятилетие ИИ переживает ренессанс, который стал возможен благодаря более высокой вычислительной мощности компьютерных чипов и огромному количеству информации, доступной в Интернете. Достижения в этой области позволили компьютерам анализировать наборы данных и находить полезные закономерности для решения проблем, причем порой машина превосходит человеческий мозг. ИИ и машинное обучение уже используются в широком спектре приложений: от распознавания лиц до обнаружения заболеваний при помощи медицинских снимков и применения в военной области. Страны вкладывают огромные средства в сферу ИИ, поскольку ожидается, что она станет сердцем будущих технологий и ключом к экономическому росту во всем мире.

Многие эксперты, стоящие за разработкой систем ИИ, предупреждают, что хотя эта технология и обещает уже в ближайшие годы преобразовать наш мир, но большие перспективы также потенциально несут в себе серьезные риски, что может нанести значительный вред обществу. Генеральный директор OpenAI Сэм Альтман настаивает на том, что вмешательство правительства будет иметь решающее значение для снижения рисков все более мощных систем ИИ. Альтман предложил создать международный регулятор мониторинга по типу Международного агентства по атомной энергии для пресечения вредоносного использования ИИ.

Среди опасений – потенциальное злоупотребление ИИ в критически важной инфраструктуре, образовании, управлении человеческими ресурсами и соблюдении общественного порядка. Развитие генеративного ИИ (GenAI), который может создавать сложный контент, напоминающий человеческое творчество, вроде ChatGPT компании OpenAI, привело к использованию инструмента для создания дипфейков, что может привести к распространению в сети ложных и вводящих в заблуждение заявлений о Холокосте; к обману при выполнении домашних заданий; к распространению лжи; к нарушению защиты авторских прав. Помимо этого, опасения заключаются в том, что в будущем передовые системы ИИ смогут создавать условия для манипулирования людьми, которые упустят контроль за ситуацией.

Договор обязывает подписавшие его стороны гарантировать, что системы ИИ не будут использоваться для «подрыва целостности, независимости и эффективности демократических институтов и процессов, включая принцип разделения власти, уважение независимости судебной системы и доступа к правосудию».

Правовая база также возлагает на государства общую обязанность контролировать результаты работы систем ИИ и принимать меры по защите прав человека в соответствии с международным и национальным законодательством, включая защиту прав на неприкосновенность частной жизни отдельных лиц и правовую защиту их персональных данных. Однако в договоре не упомянуты какие-либо санкции или штрафы в случаях его несоблюдения, что вызывает вопросы относительно его эффективной реализации.

 

Сергей ХАУДРИНГ