Искусственный интеллект (ИИ) применяется всё шире и оказывает влияние на всё большее количество сфер человеческой жизни, причем влияние это может быть как положительным, так и отрицательным. Это характерно для многих значимых изобретений, изменивших жизнь людей: ядерная энергия может использоваться как для мирных, так и для разрушительных целей; нефтедобыча решает энергетические проблемы и дает сырье для синтеза новых материалов, но приводит к загрязнению окружающей среды; денежное обращение позволяет быстро обмениваться ценностями, но приводит к коррупции, перепотреблению, спекуляции и т.д.
Преимущества ИИ
Преимущества искусственного интеллекта несомненны. Он уже используется для решения актуальных прикладных задач:
- экспертные системы помогают вырабатывать эффективные решения там, где не хватает высококвалифицированных специалистов (дистанционное обучение, предварительная постановка медицинских диагнозов и т.п.);
- автономные устройства исследуют среды, где человек не может находиться без вреда для здоровья или опасности для жизни (космос, океанские глубины, зоны пожаров или радиоактивных загрязнений и т.п.);
- ИИ способствует минимизации человеческого фактора в критически важных сферах деятельности на монотонных работах (авиадиспетчер), там, где требуется многочасовая сосредоточенная деятельность (ассистент хирурга);
- на транспорте ИИ используется для беспилотного управления поездами, автомобилями, судами, позволяя перемещаться длительное время без перерывов на отдых водителя;
- пользователям компьютеров ИИ предоставляет удобные интерфейсы, позволяющие отдавать команды и воспринимать информацию в естественной форме (распознавание и синтез речи).
Рисунок 1. Беспилотный автомобиль. Автор24 — интернет-биржа студенческих работ
Применение ИИ способно решить такие экономические проблемы, как снижение себестоимость, повышение производительности труда, кадровый голод.
В отличие от обычных компьютерных программ, ИИ способен гибко перенастраиваться, что позволяет многократно использовать его в различных отраслях.
Угрозы, связанные с использованием ИИ
Вместе с тем, ИИ таит в себе ряд опасностей:
- в социально-политической сфере его применение может проявиться в виде стремления к тотальному контролю; накопление огромного количества персональных данных о пользователях компьютерных систем ведет к ограничению личных свобод, причем если в авторитарных и деспотических обществах у граждан остается хотя бы теоретическая возможность сопротивляться властям и договариваться с ними, то в ситуации, когда решения будет принимать автоматика, люди окажутся перед лицом сил, не поддающихся обычному человеческому влиянию;
- с точки зрения экологии ИИ несет опасность; человечество разрушает окружающую среду, но, по крайней мере, вблизи своего жилья люди стараются поддерживать благоприятные условия; устройства, работающие под управлением ИИ, могут учесть не все экологические факторы, поскольку менее требовательны к чистоте окружающей среды;
- применение ИИ может отрицательно повлиять и на экономику: сокращение рабочих мест вследствие автоматизации может привести к резкому росту безработицы; уже сейчас многие профессии оказались под угрозой; например, в связи с внедрением беспилотных транспортных средств требуется меньше водителей.
Рисунок 2. Ликвидация последствий техногенной аварии на АЭС Фукусима-1. Автор24 — интернет-биржа студенческих работ
Кроме того, ИИ таит в себе ряд опасностей, связанных с нарушениями правил эксплуатации:
- технический сбой; несмотря на то, что современная техника достаточно надежна, вероятность аварий остается всегда; их причинами могут стать ошибки в программах, нарушение энергоснабжения, случайные механические повреждения;
- выход из-под контроля; стремление людей создавать всё более автономные устройства может привести к тому, что работающие под управлением ИИ устройства невозможно будет вовремя остановить или скорректировать;
- взлом; управление системами ИИ, связанными с критическими для жизни общества производствами (водо- и энергоснабжение, оборона) могут перехватить злоумышленники, как это продемонстрировано в фильме "Die Hard 4".
Этика использования ИИ
Списки как достоинств ИИ, так и связанных с ним угроз можно продолжать. Человечеству важно выработать принципы разумного использования этой силы, и работа в этом направлении ведется уже давно.
Рисунок 3. Кадр из фильма "Метрополис". 1927 г. Автор24 — интернет-биржа студенческих работ
Проблему потенциальных опасностей высокотехнологичного общества, в том числе построенного с использованием ИИ, раньше всех сформулировали литераторы. Уже в 1920-х гг. появлялись романы-антиутопии, предупреждающие об этом. Считается, что одним из первых проблему тотального контроля с применением высоких технологий поднял Евгений Замятин в романе "Мы". В этом же духе высказывались Олдос Хаксли ("О дивный новый мир"), Джордж Оруэлл ("1984"). Много произведений проблеме потенциальной неуправляемости ИИ посвятили писатели-фантасты. Первым значительным произведением на эту тему можно считать "R.U.R" Карела Чапека. Айзек Азимов в рассказе "Хоровод" (1942 г.) сформулировал законы робототехники, считающиеся актуальными до сих пор: робот (в более широком смысле - искусственный интеллект) не может причинить вред человеку, а также бездействием допустить причинение такого вреда.
В настоящее время проблемы этики применительно к ИИ перешли в практическую плоскость. Урегулировать деятельность, связанную с разработкой ИИ, пытаются правительственные и международные организации. В частности, UNESCO при поддержке Стэндфордского университета занимается проблемами, связанными с распознаванием лиц камерами видеонаблюдения, установленными ныне повсеместно. Особенно данная проблема актуальна в Китае, где любого человека можно найти с помощью этой технологии всего за 7 минут. Применение тотального видеонаблюдения, по мнению исследователей, может привести к массовой стигматизации и нарушению прав, связанных с приватностью.
В то же время ряд исследователей считает, что опасения, связанные с развитием искусственного интеллекта, преувеличены. Бороться следует с людьми-злоумышленниками, использующими мощные компьютерные технологии в корыстных целях. ИИ же как таковой пока никак не продемонстрировал своих "злых умыслов". Это связано с тем, что возможности ИИ по распознаванию образов и принятию решений пока уступают не только человеческим, но и свойственным менее организованным животным, например, пчелам.
