Необходимы меры защиты от распространения ИИ

Aug 10, 2023

Добавляйте статьи в сохраненный список и возвращайтесь к ним в любое время.

Научный прогресс часто сопряжен с моральными трудностями. То же самое и с искусственным интеллектом, который обещает революционизировать нашу жизнь и стимулировать экономику. Быстрое распространение новых технологий, которые могут писать, говорить и даже видеть за нас, также возлагает на нас ответственность вести переговоры по некоторым минным полям.

ИИ имитирует человеческий интеллект. Его алгоритмы думают за нас и помогают нам достигать наших целей – на стройплощадках, на фабриках, в больницах, на рабочих местах, в учебных классах и дома. Он может предсказывать наши мысли с пугающей точностью. Он не только может помочь нам написать эссе, но и читать и водить за нас. Финансы, образование, транспорт, строительство, машиностроение, здравоохранение и юриспруденция входят в число отраслей, которые он может преобразовать.

Как мы сообщаем сегодня, ИИ предлагает нам множество интересных приложений в медицинской диагностике. Он может читать отчеты о радиологических исследованиях и помогает снизить огромную нагрузку на рентгенологов, которые склонны уставать и терять концентрацию. Хотя некоторые практикующие врачи приветствуют дополнительную помощь, некоторые предупреждают, что слишком быстрое внедрение новой технологии может дорого стоить отношениям между врачом и пациентом.

Эксперт в области общественного здравоохранения профессор Стивен Лидер заявил, что давление на врачей, заставляющее их все больше полагаться на лабораторные исследования для диагностики, а не на подробный личный анамнез пациента, заложило основу для того, чтобы ИИ и дальше уменьшал потребность в контакте с человеком при постановке диагноза. Он говорит, что ситуация становится настолько обезличенной, что он задается вопросом, какое место здесь занимает врач.

Федеральное правительство признало риски вреда, связанные с новой технологией. Он опубликовал два отчета, в которых заложена основа регулирования. Министр промышленности и науки Эд Хусик говорит, что лейбористы, как и весь остальной мир, пытаются понять, как безопасно и ответственно использовать ИИ, чтобы сбалансировать его преимущества с любыми рисками.

В дискуссионном документе Департамента промышленности описываются преимущества, которые ИИ может принести в строительстве и проектировании, юридических услугах и хранении данных о пациентах в больницах. По оценкам консалтинговой компании McKinsey, к началу 2030-х годов ИИ может принести австралийской экономике до 4 триллионов долларов.

В дискуссионном документе также предупреждаются о рисках, связанных с генеративным ИИ, таким как ChatGPT. Его создатель, исполнительный директор OpenAI Сэм Альтман, раскрыл потенциал чат-ботов для улучшения нашей жизни. Но он также признал, что технологические компании рискуют высвободить мошеннический искусственный интеллект, который может причинить вред, если правительства не вмешаются.

«Если эта технология пойдет не так, она может пойти совсем не так, мы хотим работать с правительством, чтобы этого не произошло», — говорит он.

Высказывались опасения по поводу возможности появления вредоносных систем, которые бросают вызов человеческим представлениям о справедливости и морали в таких областях, как государственные услуги, банковское дело и принятие военных решений. Некоторые прогнозисты дошли до того, что предсказали, что программисты могут случайно создать сверхразум, который может – намеренно или случайно – уничтожить человечество.

В открытом письме, в котором упоминаются потенциальные риски для общества и человечества, Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли призвали ввести шестимесячный мораторий на разработку систем, более мощных, чем недавно выпущенная OpenAI GPT-4. Он может вести человеческие беседы, писать завещания, сочинять песни и эссе, а также обобщать документы. Миллиардер Уоррен Баффет сравнил ИИ с развитием ядерных технологий.

Бывший министр цифрового правительства Нового Южного Уэльса Виктор Доминелло, который сейчас возглавляет Центр надежного цифрового общества, говорит, что разрыв между новыми технологиями и регулированием практически невозможно преодолеть..Он предупреждает, что нам нужны меры защиты, чтобы предотвратить повторение катастрофы с роботами-долгами, хотя бы это будет программа автоматизации возмещения долгов, а не конкретно ИИ, или что-то еще хуже.

The Herald сообщила, что федеральное правительство ведет переговоры с высокопоставленными представителями отрасли о рисках и преимуществах ИИ и готовится начать общественные консультации. Несмотря на весь очевидный потенциал ИИ, «Вестник» поддерживает правительство, устанавливающее некоторые мудро продуманные барьеры вокруг его использования.