Искусственный интеллект как объект изучения
В первой половине XVII века Томас Гоббс заявил, что мышление – это вычисление, а Блез Паскаль создал Паскалину, одну из первых счетных машин. Таким образом, появление искусственного интеллекта (далее ИИ) стало вопросом времени.
Создание ИИ можно проследить по логической цепочке:
- Сознание – это совокупность психических процессов,
- Думать – значит вычислять,
- Машина может вычислить,
- Значит, можно создать машину с собственным сознанием, в котором отразится реальность.
В основе всего современного ИИ лежит предположение, что человеческое мышление — это вычислительный процесс в той или иной форме.
Искусственный интеллект — это процесс познания и постоянного обучения.
В середине ХХ века машины стали способны реализовывать довольно сложную математику. Соперничество с человеческим интеллектом осуществлялось по двум основным направлениям, которые Алан Тьюринг назвал:
- «сверху вниз»,
- «снизу-вверх».
С одной стороны, люди разработали алгоритмы, лежащие в основе мышления. Машина Тьюринга, которая разбила вычислительные задачи на элементарные шаги, доступные компьютеру. Это направление вниз.
С другой стороны, люди создали модели нейронов и объединили их в сети в надежде получить работающую модель мозга – это направление получило название «снизу-вверх», или коннекционизм.
Каким бы ни был подход, все современные исследования ИИ служат иллюстрацией принципа «притворяйся, пока не сделаешь». Мы моделируем (фальсифицируем) различные аспекты мозга и мышления, затем комбинируем их и смотрим, что получится в итоге.
И хотя мы еще не создали по-настоящему сильный ИИ, даже неудачи помогают нам лучше понять его. Дональд Кнут сказал: «Я ничего не понимаю, пока не попытаюсь это запрограммировать».
Учителя говорят о необходимости обучения детей вычислительному мышлению – представлении решения в виде последовательности «упорядоченных шагов», т. е. алгоритма.
Ученые годами говорят о «вычислительном повороте» — проникновении вычислительных методов в исследовательский процесс, а не только в технические и точные науки.
В прошлом году в Стэндфордской энциклопедии был введен раздел компьютерной философии, и это не «философия информатики», а другая философия, использующая численные методы.
Философия искусственного интеллекта
Все научные дисциплины и технологии являются инструментами, которые существуют для решения конкретных задач.
Искусственный интеллект – это и наука, и технология. Его задача – научить машину функциям, считающимися прерогативой человека.
Философия определяет место, которое занимают разные предметы в нашей картине мира, помогает понять взаимосвязи и влияние на окружающую их действительность. Например, философия науки изучает методы и сущность науки как явления, а философия техники понимает природу техники и оценивает ее влияние на общество, культуру и человека.
Чем более сложное, богатое явление, чем больше оно воздействует на окружающий мир или находится под его влиянием, тем больше нам нужна философия для его понимания. Искусственный интеллект глубоко укоренен в нашем прошлом, он существенно влияет на наше настоящее и еще больше меняет наше возможное будущее.
Поэтому столь актуальна философия ИИ, изучающая вопросы о «мышлении машин». Философия ИИ с одной стороны, рассматривает искусственный интеллект как феномен общества, культуры и познания, а с другой стороны, пытается понять его природу и дать оценку его влияние на нашу реальность.
Философы также обсуждают менее насущные, но более масштабные темы, такие как:
- «Уничтожит ли нас ИИ?»,
- «Что будет после появления ИИ?».
Рационалист Элиэзер Юдковски считает, что дружественный ИИ станет возможен только после понимания секретов разума. Технооптимист Рэй Курцвейл полагает, что следование ценностям, которых мы придерживаемся прежде всего сегодня, — это лучшая стратегия для создания мира будущего, вне зависимости от ИИ. Трансгуманист Ник Бостром в своей книге «Искусственный интеллект. Шаги. Угрозы. Стратегии» предупреждает, что следующий этап после создания ИИ — создание Сверхразума, и мы в принципе не сможем его хоть как-то контролировать.
Цифровая этика
Томас Метцингер, автор книги «Туннель эго», задает неожиданный вопрос: имеем ли мы право создавать ИИ? Ведь он, будучи созданным, будет испытывать разные состояния сознания. И мы не можем гарантировать, что среди этих состояний не будет этически неприемлемых состояний (типа вожделения, гнева или желания убивать) - потому что мы еще не научились избегать их сами.
Вопрос даже не в том, опасно ли создание ИИ. Вопрос в том, этично ли это, подходит ли это для человека и для человечества.
Разработчики беспилотных автомобилей или систем компьютерного зрения и другие специалисты по ИИ постоянно решают свои частные проблемы и просто не успевают проанализировать все возможные последствия своей деятельности.
Возможно, в будущем ИИ неизбежно столкнется с проблемой этического выбора, так называемой «проблеме вагонетки» (убить одного, чтобы спасти пятерых) — например, при вождении автомобилей по дорогам общего пользования или управлении полицейскими дронами.
Эти вопросы решаются в исследованиях цифровой этики — это одна из самых быстрорастущих ветвей философии ИИ. Один из важных результатов выглядит так: машина может принимать решения о жизни и смерти людей, если, следовательно, смертей меньше.
Другой подход заключается в том, чтобы апеллировать к мнению людей. Массачусетский эксперимент «Моральная машина» предлагает пользователям Интернета решить, кого должна раздавить машина в гипотетической чрезвычайной ситуации. Моральное действие определяется выбором большинства.
Развитие ИИ, по мнению экспертов, повлияет и на рынок труда: многие профессии исчезнут, но многие появятся. Общий вывод состоит в том, что всеобщая автоматизация и масштабная роботизация оставляют людям в основном сложные профессии с ярко выраженной творческой составляющей.
