Электронный мозг под присмотром

Борьба с рисками искусственного интеллекта

Сэм Альтман – основатель и генеральный директор компании OpenAI
© Jason Redmond / AFP

Израиль присоединился к Соединенным Штатам, Великобритании и ряду стран Евросоюза, подписав международный договор о том, как использовать искусственный интеллект (ИИ) для общего блага, гарантируя при этом, что не будут ущемляться демократия, права человека и верховенство закона.

«Подписание Израилем первой глобальной конвенции по искусственному интеллекту подчеркивает нашу приверженность надежным инновациям и соблюдению прав человека, – заявила израильский министр инноваций, науки и технологий Гила Гамлиэль. – Конвенция делает Израиль полноправным партнером в разработке международной политики в этой области в ближайшие годы и выведет нас в авангард передовых стран мира».

Первый обязательный международный договор по ИИ, подписанный 57 странами, ожидает в настоящий момент ратификации государствами. После этой процедуры страны-подписанты будут нести ответственность за любые наносящие вред и дискриминационные результаты использования систем ИИ. Одновременно законодатели по всему миру размышляют о регулировании новаторской технологии и о том, как решать проблемы, связанные с ее неправильным использованием, и выявлять опасности, которые она уже собой представляет.

Подписанную в начале сентября Конвенцию об искусственном интеллекте выработали с целью сформулировать глобальные основополагающие принципы, правила и стандарты, гарантирующие, что внедрение новаторских и быстро развивающихся технологий не навредит человечеству. Этот шаг был предпринят Израилем на фоне опасений, что страна отстает от США и Европы в плане привлечения инвестиций в стартапы, разрабатывающие технологии на основе искусственного интеллекта из-за продолжающейся войны с террористической группировкой ХАМАС.

Искусственный интеллект – технология, которая дает компьютерам возможность быстро обучаться, – существует с 1950-х гг. Но в последнее десятилетие ИИ переживает ренессанс, который стал возможен благодаря более высокой вычислительной мощности компьютерных чипов и огромному количеству информации, доступной в Интернете. Достижения в этой области позволили компьютерам анализировать наборы данных и находить полезные закономерности для решения проблем, причем порой машина превосходит человеческий мозг. ИИ и машинное обучение уже используются в широком спектре приложений: от распознавания лиц до обнаружения заболеваний при помощи медицинских снимков и применения в военной области. Страны вкладывают огромные средства в сферу ИИ, поскольку ожидается, что она станет сердцем будущих технологий и ключом к экономическому росту во всем мире.

Многие эксперты, стоящие за разработкой систем ИИ, предупреждают, что хотя эта технология и обещает уже в ближайшие годы преобразовать наш мир, но большие перспективы также потенциально несут в себе серьезные риски, что может нанести значительный вред обществу. Генеральный директор OpenAI Сэм Альтман настаивает на том, что вмешательство правительства будет иметь решающее значение для снижения рисков все более мощных систем ИИ. Альтман предложил создать международный регулятор мониторинга по типу Международного агентства по атомной энергии для пресечения вредоносного использования ИИ.

Среди опасений – потенциальное злоупотребление ИИ в критически важной инфраструктуре, образовании, управлении человеческими ресурсами и соблюдении общественного порядка. Развитие генеративного ИИ (GenAI), который может создавать сложный контент, напоминающий человеческое творчество, вроде ChatGPT компании OpenAI, привело к использованию инструмента для создания дипфейков, что может привести к распространению в сети ложных и вводящих в заблуждение заявлений о Холокосте; к обману при выполнении домашних заданий; к распространению лжи; к нарушению защиты авторских прав. Помимо этого, опасения заключаются в том, что в будущем передовые системы ИИ смогут создавать условия для манипулирования людьми, которые упустят контроль за ситуацией.

Договор обязывает подписавшие его стороны гарантировать, что системы ИИ не будут использоваться для «подрыва целостности, независимости и эффективности демократических институтов и процессов, включая принцип разделения власти, уважение независимости судебной системы и доступа к правосудию».

Правовая база также возлагает на государства общую обязанность контролировать результаты работы систем ИИ и принимать меры по защите прав человека в соответствии с международным и национальным законодательством, включая защиту прав на неприкосновенность частной жизни отдельных лиц и правовую защиту их персональных данных. Однако в договоре не упомянуты какие-либо санкции или штрафы в случаях его несоблюдения, что вызывает вопросы относительно его эффективной реализации.

 

Сергей ХАУДРИНГ

Уважаемые читатели!

Старый сайт нашей газеты с покупками и подписками, которые Вы сделали на нем, Вы можете найти здесь:

старый сайт газеты.


А здесь Вы можете:

подписаться на газету,
приобрести актуальный номер или предыдущие выпуски,
а также заказать ознакомительный экземпляр газеты

в печатном или электронном виде

Поддержите своим добровольным взносом единственную независимую русскоязычную еврейскую газету Европы!

Реклама


Знакомьтесь: аспирин

Знакомьтесь: аспирин

Некоторые свойства старого лекарства приходится открывать заново

Лекарства без доплаты

Лекарства без доплаты

«Сим удостоверяется» в электронном виде

«Сим удостоверяется» в электронном виде

Что в цифровую эпоху имеет силу документа

Новая категория посылок и новые цены

Новая категория посылок и новые цены

Сверим смарт-часы

Сверим смарт-часы

Предотвратить глобальные пандемии

Варикозные вены

Варикозные вены

Как от них избавиться?

«Третьи зубы» и их классификация

«Третьи зубы» и их классификация

«Купил? Неси назад!»

«Купил? Неси назад!»

С таким призывом к вам может обратиться ваш телефон

Два счета за «одно» электричество

Два счета за «одно» электричество

Солнцезащитный экран в космосе

Солнцезащитный экран в космосе

Идея противостояния глобальному потеплению

Словно только что с ветки...

Словно только что с ветки...

Всё дело в новаторской упаковке

Вторая прямая связь

Вторая прямая связь

Беспроводной контакт между мозгом и компьютером

Все статьи
Наша веб-страница использует файлы cookie для работы определенных функций и персонализации сервиса. Оставаясь на нашей странице, Вы соглашаетесь на использование файлов cookie. Более подробную информацию Вы найдете на странице Datenschutz.
Понятно!