Гибридный интеллект и сценарии его использования

МФК Гибридный интеллект и сценарии его использования Лекция 1 Искусственный интеллект: возникновение, развитие, современное состояние. Понятие гибридного интеллекта (augmented intelligence). Проф. Рыжов Александр Павлович ryjov@mail.ru +7 916 323 4499 http://www.intsys.msu.ru/staff/ryzhov/ Искусственный интеллект: предыстория • • • Сказки Прометей вылепил человека из глины Пигмалион вырезал из слоновой кости статую (Галатею) и полюбил её, а Афродита оживила статую, и та стала его женой Гефест создал Пандору, первую женщину на земле Древняя Греция • железный человек Альбертуса Магнуса • механический рыцарь да Винчи • механические дети Пьера Жак-Дро • гомункул Парацельса Средние века Механические дети Пьера Жак-Дро Искусственный интеллект: история ИИ: две картинки 😃 😠 • $15.7tr - Potential contribution to the global economy by 2030 from AI; Up to • AI heading back to the trough. The expectations over artificial intelligence 26% boost in GDP for local economies from AI by 2030: (AI) are becoming too inflated. AI will indeed change everything, but not PwC’s Global Artificial Intelligence Study: Exploiting the AI Revolution - https:// any time soon. (https://www.networkworld.com/article/3206313/ www.pwc.com/gx/en/issues/data-and-analytics/publications/artificialinternet-of-things/ai-heading-back-to-the-trough.html) intelligence-study.html • Inflated Expectations: Artificial Intelligence Still Depends on Humans • McKinsey Global Institute predicts that the potential value of AI could reach (https://techonomy.com/2016/07/27222/) US$13 trillion annually by 2030 Notes from the AI frontier - https://www.mckinsey.com/featured-insights/ • What AI mostly needs is expectation management (https:// artificial-intelligence/notes-from-the-ai-frontier-applications-and-value-oftowardsdatascience.com/what-ai-mostly-needs-is-expectationdeep-learning management-625c90ea147f) CB Insights: • • Here's Why AI Can't Solve Everything (https://www.sciencealert.com/aimachine-learning-solve-all-humanity-problems-unrealistic) • … • The Seven Deadly Sins of AI Predictions. Mistaken extrapolations, limited imagination, and other common mistakes that distract us from thinking more productively about the future. We are surrounded by hysteria about the future of artificial intelligence and robotics—hysteria about how powerful they will become, how quickly, and what they will do to jobs. (https://www.technologyreview.com/s/609048/the-seven-deadly-sins-ofai-predictions/) • … ИИ: результаты завышенных ожиданий • • • • • • Facebook is shutting down M, its personal assistant service that combined humans and AI ‘We learned a lot,’ company says (https://www.theverge.com/2018/1/8/16856654/facebook-m-shutdown-bots-ai) Cambridge Analytica and Scl Elections Commence Insolvency Proceedings and Release Results of Independent Investigation into Recent Allegations (https://ca-commercial.com/news/cambridge-analytica-and-scl-elections-commence-insolvencyproceedings-and-release-results-3) (2 May 2018) IBM's Watson Health wing left looking poorly after 'massive' layoffs Up to 70% of staff shown the door this week, insiders claim (https://www.theregister.co.uk/AMP/2018/05/25/ibms_watson_layoffs/) – IBM Watson выдавал «небезопасные и неправильные» рекомендации по лечению рака https://hi-news.ru/research-development/ibm-watson-vydaval-nebezopasnye-inepravilnye-rekomendacii-po-lecheniyu-raka.html – «Этот продукт — дерьмо собачье», сказал IBM врач из Jupiter Hospital во Флориде. «Мы купили его [под влиянием маркетинга] и с надеждой, что вам удастся добиться своего. Мы не можем использовать его в большинстве случаев». И это лишь одна из жалоб врачей, которые включили в документы. Кто следующий? Что дальше? «Зима ИИ» на 20 лет? Правильное время вспомнить отцов-основателей… https://medium.com/the-new-york-times/what-everhappened-to-ibms-watson-d4ce7b497599 AI winter (https://en.wikipedia.org/wiki/ AI_winter) • The 1987 collapse of the LISP machine market • Slowdown in deployment of expert systems • The end of the Fifth Generation computers project • Strategic Computing Initiative cutbacks • … Отцы-основатели видели ИИ по-другому: William Ross Ashby: ”Intellectual power, like physical power, can be amplified. Let no one say that it cannot be done, for the gene-patterns do it every time they form a brain that grows up to be something better than the gene-pattern could have specified in detail. What is new is that we can now do it synthetically, consciously, deliberately” (Ashby, W.R., (1956). An Introduction to Cybernetics. London, UK: Chapman and Hall, 1956 (p. 271). Retrieved from http://pespmc1.vub.ac.be/books/IntroCyb.pdf) Интеллектуальная сила, как и физическая сила, может быть усилена. Пусть никто не говорит, что это невозможно сделать, потому что гены делают это каждый раз, когда они образуют мозг, который вырастает, чтобы быть чем-то лучше, чем ген-образ мог бы быть подробно описан. Новым является то, что мы можем теперь делать это синтетически, сознательно, преднамеренно. Joseph Carl Robnett Licklider : ”Man-computer symbiosis is an expected development in cooperative interaction between men and electronic computers. It will involve very close coupling between the human and the electronic members of the partnership… Preliminary analyses indicate that the symbiotic partnership will perform intellectual operations much more effectively than man alone can perform them ” (Licklider, J.C.R., (1960). Man-Computer Symbiosis. IRE Transactions on Human Factors in Electronics, vol. HFE-1, 4-11 (p. 4) Retrieved from http://groups.csail.mit.edu/medg/people/psz/Licklider.html) Человеко-компьютерный симбиоз является ожидаемым развитием сотрудничества между людьми и электронными компьютерами. Это будет связано с очень тесной связью между человеческим и электронным членами партнерства ... Предварительные анализы показывают, что симбиотическое партнерство будет выполнять интеллектуальные операции гораздо эффективнее, чем только человек может их выполнять. Теория нечетких множеств – математика Гибридного Интеллекта In a paper published in 1961 entitled “From Circuit Theory to System Theory” … I wrote: ”There is a fairly wide gap between what might be regarded as ‘animate’ system theorists and ‘inanimate’ system theorists at the present time, and it is not at all certain that this gap will be narrowed, much less closed, in the near future. There are some who feel that this gap reflects the fundamental inadequacy of conventional mathematics—the mathematics of precisely-defined points, functions, sets, probability measures, etc.—for coping with the analysis of biological systems, and that to deal effectively with such systems, which are generally orders of magnitude more complex than man-made systems, we need a radically different kind of mathematics, the mathematics of fuzzy or cloudy quantities which are not describable in terms of probability distributions. Indeed, the need for such mathematics is becoming increasingly apparent even in the realm of inanimate systems, for in most practical cases the a priori data as well as the criteria by which the performance of a man-made system are judged are far from being precisely specified or having accurately- known probability distributions.” It was this observation that motivated my development of the theory of fuzzy sets, starting with the 1965 paper “Fuzzy Sets”, which was published in Information and Control. From Computing with Numbers to Computing with Words. From Manipulation of Measurements to Manipulation of Perceptions. IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS—I: FUNDAMENTAL THEORY AND APPLICATIONS, VOL. 45, NO. 1, JANUARY 1999 (https://ieeexplore.ieee.org/document/739259) ”The advent of the Computer age has stimulated a rapid expansion in the use of quantitative techniques for the analysis of economic, urban, social, biological and other types of systems in which it is the animate rather than inanimate behavior of system constituents that plays a dominant role. At present, most of the techniques employed for the analysis of humanistic, i. e., human-centred systems are adaptations of the methods that have been developed over a long period of time for dealing with mechanistic systems, i. e., physical systems governed in the main by the laws of mechanics, electromagnetism, and thermodynamics. The remarkable successes of these methods in unraveling the secrets of nature and enabling us to build better and better machines have inspired a widely held belief that the same or similar techniques can be applied with comparable effectiveness to the analysis of humanistic systems…. It is in this sense that precise quantitative analyses of the behavior of humanistic systems are not likely to have much relevance to the real-world societal, political, economic, and other types of problems which involve humans either as individuals or groups.” Outline of a New Approach to the Analysis of Complex Systems and Decision Processes (IEEE TRANSACTIONS ON SYSTEMS, MAN, AND CYBERNETICS, VOL. SMC-3, NO. 1, JANUARY 1973 - https://pdfs.semanticscholar.org/1c08/0ebc575e1524f09cc1cb250cd087551b0989.pdf) Бизнес видит перспективу Гибридного Интеллекта McKinsey. Automation of knowledge work - ”These capabilities not only extend computing into new realms …, but also create new relationships between knowledge workers and machines. It is increasingly possible to interact with a machine the way one would with a coworker ” (McKinsey Global Institute (May 2013). Disruptive technologies: Advances that will transform life, business, and the global economy. (p.41) Retrieved from http://www.mckinsey.com/insights/business_technology/ disruptive_technologies) IBM. ”At IBM, we are guided by the term “augmented intelligence” rather than “artificial intelligence”. It is the critical difference between systems that enhance and scale human expertise rather than those that attempt to replicate all of human intelligence. We focus on building practical AI applications that assist people with welldefined tasks, and in the process, expose a range of generalized AI services on a platform to support a wide range of new applications” IBM, (2018). Cognitive computing. Preparing for the Future of Artificial Intelligence. Retrieved from http:// research.ibm.com/cognitive-computing/ostp/rfi-response.shtml Прорывные технологии: преимущества, которые изменит жизнь, бизнес и мировую экономику Наука: NSF https://www.nsf.gov/news/special_reports/big_ideas/index.jsp Наука: NSF Наука: DARPA https://www.darpa.mil/work-with-us/ai-next-campaign Наука: DARPA DARPA envisions a future in which machines are more than just tools that execute human-programmed rules or generalize from human-curated data sets. Rather, the machines DARPA envisions will function more as colleagues than as tools. Towards this end, DARPA research and development in human-machine symbiosis sets a goal to partner with machines. ... DARPA is focusing its investments on a third wave of AI that brings forth machines that understand and reason in context. https://www.darpa.mil/news-events/2018-09-07 Государство: Whitehouse https://www.whitehouse.gov/wp-content/uploads/2019/06/National-AIResearch-and-Development-Strategic-Plan-2019-Update-June-2019.pdf? fbclid=IwAR3qk0nDr8-sGAqaJnch2m8-asO1JS1D9DjvapEEBth2CA9y5M6thfhKlY Государство: Whitehouse Strategy 2: Develop effective methods for human-AI collaboration. Increase understanding of how to create AI systems that effectively complement and augment human capabilities. https://www.whitehouse.gov/wp-content/uploads/2019/06/National-AIResearch-and-Development-Strategic-Plan-2019-Update-June-2019.pdf? fbclid=IwAR3qk0nDr8-sGAqaJnch2m8-asO1JS1D9DjvapEEBth2CA9y5M6thfhKlY Гибридный Интеллект: от мечты к инвестициям Lotfi Zadeh (1965) Joseph Carl Robnett Licklider (1960) William Ross Ashby (1956) 1960 1965 2013 Now Dream Math Business Investments Высокотехнологичные компании и университеты • Google’s $5 Mn Funded AI Institute Will Explore Human-AI Interactions, 03/09/2020 (https:// analyticsindiamag.com/googles-5-mn-funded-aiinstitute-will-explore-human-ai-interactions/) • Stanford founded the Institute for HumanCentered AI (HAI) : to guide and build the future of AI (https://hai.stanford.edu/) Пример: усиление физической мощности • Лопата ! Экскаватор • Лошадь !Ракета • Рычаг ! Кран •… Для различных задач различные усилители Мы уже усилили некоторые интеллектуальные функции • Память • Вычислительная мощность Аналогия: мечта летать Древняя Греция Начало XX века Сейчас Люди летают (Wingsuit) Урок: • Очень дорого • Очень рискованно • Нет практического смысла • Дешево • Безопасно Artificial Intelligence ИИ как мечта Augmented Intelligence • Практично Что мы хотим? Альберт Эйнштейн: "The intuitive mind is a sacred gift and the rational mind is a faithful servant. We have created a society that honors the servant and has forgotten the gift” - «Интуитивный ум - это священный дар, а рациональный ум - верный слуга. Мы создали общество, которое чтит слугу и забыло дар» Intuition Is The Highest Form Of Intelligence - https://www.forbes.com/sites/brucekasanoff/2017/02/21/intuition-isthe-highest-form-of-intelligence/#18977d8e3860 Гибридный интеллект можно измерить Почему сейчас? Снижение затрат на обработку одного бита Искусственный интеллект: шаг назад Ловушка Тьюринга Ловушка Тьюринга: обещания и опасности человекоподобного искусственного интеллекта https://digitaleconomy.stanford.edu/news/the-turing-trap-thepromise-peril-of-human-like-artificial-intelligence/ Эрик Бриньолфссон Директор Стэнфордской лаборатории цифровой экономики 12 января 2022 г. Это подчеркивает перспективу и опасность достижения HLAI: создание машин, предназначенных для прохождения теста Тьюринга и других, более сложных показателей человеческого интеллекта. С одной стороны, это путь к беспрецедентному богатству, увеличению досуга, крепкому интеллекту и даже лучшему пониманию самих себя. С другой стороны, если HLAI приведет машины к автоматизации, а не увеличению человеческого труда, это создаст риск концентрации богатства и власти. И с этой концентрацией приходит опасность оказаться в ловушке равновесия, когда у тех, у кого нет власти, нет возможности улучшить свои результаты, ситуация, которую я называю ловушкой Тьюринга. Знания – это сталь, хлеб, деньги До-индустриальное Индустриальное Пост-индустриальное Природные ресурсы Капитал «Информационный капитал» • Земля • Деньги • Знания • Минералы • Заводы • Информация • Рыба • Машины •… IBM vs. Microsoft • Пушнина •… • 1983 г.: IBM выбрала MS-DOS для ПК Стоимость основных фондов/рыночная стоимость • 1996 г.: IBM - $70,7B , Microsoft - $85,5B промышленных предприятий США: • Основные фонды: IBM - $16,6B , Microsoft - $0,93B • Начало XX века, сталь: 1т = 4 чел/час; то есть на $100 стоимости акций IBM $23 – основные сейчас (Nucor Steel) 1т = 45 чел/мин фонды; на $100 стоимости акций Microsoft $1 – • Стоимость микросхем > стоимости стали основные фонды • Levi Strauss & Co.: $4 из $5 (себестоимость) – информация/ Sears vs. Wal-Mart знания • Анализ данных • Затраты на информацию ~ ¾ добавленной стоимости всякой General Motors vs. Toyota продукции • Место запасов заняла точная оперативная • Фермеры производят в 5 раз больше пшеницы на 1 акр, чем информация в 20-е годы (то есть сегодняшний колос на 80% состоит из Ref: http://www.e-xecutive.ru/community/articles/1490449/ знаний) Данные и знания присутствуют в любой организации Знания – это и не данные, и не информация • • • Данные: факты, зарегистрированные с помощью различных носителей. Информация: нет универсального определения. Используется и как синоним знаний, и как синоним данных. Однако есть специфика, лучше всего выражаемая через глагол «информировать», т.е. сообщать что-то новое. Получить информацию значит получить ответ на какой-то вопрос. Можно получить информацию и не имея вопроса, в этом случае сообщение будет информацией, если оно меняет сложившуюся у потребителя картину мира. Знания: результат познавательной деятельности человека. Ref: Глоссарий по информационному обществу (http://www.iis.ru/glossary/dik.ru.html ) Эти понятия имеют прагматическое определение • 01.01.01. Knowledge: Organized, integrated collection of facts and generalization. • 01.01.02. Information (in information processing): Any fact, concept, or meaning derived from Data (01.01.03) and associated context, or selected from Knowledge (01.01.01). • 01.01.03. Data: Representation of Information (01.01.02) in a formalized manner suitable for communication, interpretation or processing. Ref: ISO 2381-1:1993 Запомнить их легко Итак, знания «живут» в модели • • • • Информация = Данные + интерпретация (смысл) Знания = Информация + интеграция и организация Нет знания вне системы управления Системы управления работают с реальным миром, используя модели реального мира ИТ с акцентом на «И» Computerworld 06/11/2007 №41 http://www.osp.ru/cw/2007/41/4482844/ • Конференция IBM Information on Demand стала очередным шагом к новой компьютерной парадигме — предоставлению пользователям требуемых им сведений • Современное соотношение «данные — информация» предопределено тем, что на протяжении шести десятилетий компьютерной истории информация оставалась в тени у данных. Как следствие ни одно из известных определений информационных технологий не указывает на информацию как на предмет или область действия этих технологий. Современные ИТ-специалисты практически поголовно не проводят различия между двумя смежными, но принципиально разными понятиями. Впрочем, в подчиненном положении информации по отношению к данным нет ничего странного. До тех пор пока объемы данных оставались относительно скромными и пока эти данные использовались в системах, где и производитель, и потребитель информации существовали в едином контексте, отождествление данных и информации оставалось вполне допустимым. Более того, в силу недостаточных ресурсов такой подход был вполне оправдан. Отождествление информации с данными принципиально ничему не мешало вплоть до середины нынешнего десятилетия, когда ситуация стала изменяться. Неизбежные же изменения в отношениях между информацией и данными можно обосновать двумя факторами: экспоненциальным ростом объемов хранимых данных и связанной с этим задачей управления данными, а также массовым появлением Итак, знания «живут» в модели • • • • Информация = Данные + интерпретация (смысл) Знания = Информация + интеграция и организация Нет знания вне системы управления Системы управления работают с реальным миром, используя модели реального мира • • • • Философия: основной вопрос Примеры моделей: – Математические модели (Newton) – Имитационные модели – Бизнес - диаграммы (формальный язык) – Текст (естественный язык) – Стихи, музыка, балет (чувства, ощущения) Модель – грубое, не полное описание реального объекта. – В.И. Ленин: «Никакое «конечное описание» объекта невозможно» Любая модель содержит неопределенность Модель - неопределенность Физические/ технические системы (мир объектов) vs. Социальные/ социотехнические системы (мир объектов и людей) Теория нечетких множеств – математика социотехнических систем/ гибридного интеллекта «Механика есть рай математических наук, посредством нее достигают математического плода» Леонардо да Винчи Вероятность – не нечеткость Вентцель Е.С. Теория вероятностей: Учеб. для вузов. — 6-е изд. стер. — М.: Высш. шк., 1999.— 576 c. https://scask.ru/a_book_tp.php Для всего XVIII и начала XIX века характерны бурное развитие теории вероятностей и повсеместное увлечение ею. Теория вероятностей становится «модной» наукой. Её начинают применять не только там, где это применение правомерно, но и там, где оно ничем не оправдано. Для этого периода характерны многочисленные попытки применить теорию вероятностей к изучению общественных явлений, к так называемым «моральным» или «нравственным» наукам. Во множестве появились работы, посвященные вопросам судопроизводства, истории, политики, даже богословия, в которых применялся аппарат теории вероятностей. Для всех этих псевдонаучных исследований характерен чрезвычайно упрощенный, механистический подход к рассматриваемым в них общественным явлениям. В основу рассуждения полагаются некоторые произвольно заданные вероятности (например, при рассмотрении вопросов судопроизводства склонность каждого человека к правде или лжи оцениваются некоторой постоянной, одинаковой для всех людей вероятностью), и далее общественная проблема решается как простая арифметическая задача. Естественно, что все подобные попытки были обречены на неудачу и не могли сыграть положительной роли в развитии науки. Напротив, их косвенным результатом оказалось то, что примерно в 20-х-30-х годах XIX века в Западной Европе повсеместное увлечение теорией вероятностей сменилось разочарование и скептицизмом. На теорию вероятностей стали смотреть как на науку сомнительную, второсортную, род математического развлечения, вряд ли достойный серьезного изучения. Гибридный Интеллект: основные проблемы Два полюса: Люди делают все Не масштабируемо Не надежно Коррупционно … ИИ делает все Масшабируемо Надежно Реалистично Не реалистично сейчас 1 2 • Проблема 1 (Perception modelling): Как мы описываем объекты окружающего мира? Можем ли мы описывать объекты самым надежным и самым эффективным для последующей обработки способом? • Пробема 2 (Perception-base computing): Как мы обрабатываем описания объектов, данные людьми (например, ищем, обобщаем, распознаем)? Можем ли мы оптимизировать эти процессы? Обсуждение проблем. Теория нечетких множеств • • • • • • • 1965: Первая статья проф. Л. Заде (Berkeley University, Калифорния, США) «Fuzzy Logic» в журнале «Information and Control» 1970 Первые приложения в системах управления 1975 Первые промышленные применения в Японии 1980 Первые промышленные применения в Европе 1990 Широкое использование в разных индустриях в Японии и Европе 1995 США обращает интерес в приложениям нечетких систем 2000 Нечеткие системы становятся стандартными технологиями с обширным спектром применений в бизнесе и финансах Теория нечетких множеств в контексте ИИ Amirhosein Toosi, Andrea Bottino, Babak Saboury, Eliot Siegel, Arman Rahmim A brief history of AI: how to prevent another winter (a critical review) https://arxiv.org/pdf/2109.01517.pdf Задания для самостоятельных работ (темы для рефератов) 1. Японский проект создания ЭВМ 5 поколения 2. LIFE - основные задачи и результаты 3. Особенности социотехнических систем 4. Automation of knowledge work: основные понятия и примеры практического использования 5. Augmented Intelligence : основные понятия и примеры практического использования 6. Ловушка Тьюринга.