Текст Хјуберта Драјфуса из тематског двоброја часописа Градац („Вештачка интелигенција“) представља срж његове полемике са AI промотерима, коју је водио у периоду од 1963. до 2017. године. Применом феноменолошких увида Хајдегера и Мерло-Понтија, Драјфус је настојао да покаже фундаменталну немогућност остварења вештачке интелигенције. Његов пионирски рад Шта рачунари не могу југословенска публика је могла да чита још 1978. године, захваљујући Нолитовој едицији Сазвежђа, док се као најзначајније остварење издваја студија Being-in-the-World: A Commentary on Heidegger’s Being and Time, Division I. Пред вама су уводна поглавља Драјфусовог текста, преузета из темата који је приредио Илија Лабало.
Превод: Јелена М. Антонијевић и Илија Лабало
Конвергенција компјутера и филозофије
Када сам предавао на МИТ-у (Институт за технологију Масачусетс) почетком шездесетих, на часове о Хајдегеру би долазили студенти из Лабораторије за вештачку интелигенцију (АI) пуни самопоуздања: „Ви филозофи седите у фотељама и промишљате свет 2.000 година, и још нисте разумели како ум функционише. Ми из лабораторије преузели смо на себе ваш задатак и успевамо упркос вашем неуспеху. Програмирамо рачунаре да се понашају попут људске интелигенције, решавају проблеме, разумеју природни језик, перципирају и уче.”1 Године 1968. Марвин Мински, шеф АI лабораторије изјавио је: „Још само једну генерацију, и имаћемо интелигентне рачунаре попут ХАЛ-а из филма Одисеја 2001.“2
Сплетом околности, 1963. године сам добио позив од стране RAND корпорације да проценим пионирски рад Алана Њуела (Alan Newell) и Херберта Сајмона (Herbert Simon) у новој области коју су тада звали когнитивна симулација (CS). Њуел и Сајмон су тврдили да се и дигитални рачунари и људски ум могу схватити као системи физичких симбола, који користе низ битова или неуронских импулса – као симболе – којим представљају спољашњи свет. Од (вештачке) интелигенције, тврдили су, само се очекује да се на основу ових унутрашњих представа донесу одговарајући закључци. Говорили су: „Физички систем симболâ поседује неопходна и довољна средства за сваку умну активност.”3
Проучавајући научне радове и белешке корпорације RAND, схватих, на моје изненађење, да су пионири когнитивне симулације заправо директно и индиректно учили од самих филозофа. Управо супротно тврдњама да су их успешно заменили. Преузели су Хобсов став да је резоновање заправо рачунање, Декартове менталне представе, Лајбницову идеју о „универзалној карактеристици“ – скупу семантичких примитива којима би се могло изразити сво знање – Кантову тврдњу да су појмови у ствари правила, Фрегеову формализацију тих правила и Раселову поставку о логичким атомима као конструктивним елементима стварности. Укратко, а да то нису ни схватили, истраживачи вештачке интелигенције свим силама су се трудили да рационалистичку филозофију – које су се наводно одрицали – претворе у истраживачки програм.
Тако сам почео да наслућујем да су критичке спознаје формулисане у фотељама егзистенцијалиста, посебно Хајдегера и Мерло-Понтија, нерешив проблем за запослене у лабораторијама вештачке интелигенције – да су комбинујући рационализам, репрезентативизам, концептуализам, формализам и логички атомизам у свој научни програм, сопствени подухват осудили да се увек изјалови.
Симболичка вештачка интелигенција – истраживачки програм у дегенерацији
Послуживши се Хајдегером као водичем, почео сам да трагам за знацима дегенерације целокупног програма истраживања вештачке интелигенције. Нарочито упечатљива била је немоћ истраживачâ да представе сигнификантност и релевантност – проблем који је Хајдегер уочио као имплицитан у Декартовом поимању света као скупа бесмислених чињеница којима је ум додељивао оно што Декарт назива вредностима, а сада Џон Серл функцијама.4
Али Хајдегер је упозорио да су вредности само још бесмисленије чињенице. Рећи да је функција, бића чекића‘ укуцавање, превиђа однос чекића према ексерима и другој опреми, према сврси изградње објеката и према вештинама које су потребне приликом коришћења чекића. Хајдегер је холистички дефинисао такав начин бивствовања чекића као ,датост за руковање’ (readiness-to-hand). Пуким приписивањем формалних функцијa једноставним стварима као што су чекићи не може се изразити нити начин бивствовања чекића нити смислена организација свакодневног света у којем се укуцавање одвија. „[Н]алазећи уточиште у ,вредносним’ карактеристикама, Хајдегер каже, ,,ми смо… далеко од тога да уопште наслутимо бивствовање у својству датости за руковање (readiness-to-hand).”5
Мински, несвестан Хајдегерове критике, био је убеђен да ће представљање неколико милиона чињеница о објектима укључујући и њихове функције решити оно што се уврежило као проблем здраворазумског знања. Чинило ми се, међутим, да дубљи проблем није складиштење милиона чињеница већ препознавање оних чињеница које су релевантне у некој конкретној ситуацији. Најпознатија верзија овог проблема релевантности названа je „проблем оквира“. На пример, ако рачунар оперише користећи податке о тренутном стању (у свету) али онда дође до промене – како програм тада утврђује за које се од представљених чињеница може претпоставити да су остале исте, а које би морале да се ажурирају?Какo Мајкл Вилер у својој недавно објављеној књизи, Reconstructing the Cognitive World, формулише:
Будући да се свет непрестано мења, како ће један немагијски систем селектовати све битне промене стања у том свету а истовремено одбацити оне које нису битне? И како ће тај систем изабрати и (уколико је потребно) изменити, од свих ставова које складишти, баш оне ставове који су релевантни за делање у одређеном контексту?6
Да би избегао проблем оквира, Мински је сугерисао програмеримa вештачке интелигенције да користе нешто што је назвао оквир – oписом стереотипских ситуација. На пример, одлазак на рођенданску забаву – где би се побројале и организовале искључиво чињенице које су релевантне. Могуће да је под утицајем једног студента информатике, који је претходно похађао моја предавања из феноменологије, Мински предложио овакву структуру основних карактеристика и подразумеваних задатака – структуру на коју је Хусерл већ указао и сам назвао оквиром.7
Проблем је у томе што се сам систем оквира не налази у некој одређеној ситуацији. Да бисмо одабрали релевантне чињенице у конкретној ситуацији неопходни су оквири за препознавање рођенданских прослава као и оквири који би их разликовали од других, могуће сличних ситуација као што је, на пример, поручивање у ресторану. Следећи ту логику питао сам се, како компјутер може да изабере, од претпостављених милиона оквира у својој меморији, онај оквир који је одговарајући за избор оквира за рођенданске забаве – као релевантан оквир – а да онда препозна да је у датој ситуацији релевантно, рецимо, да се дају поклони а не новац? Деловало ми је очигледно да ће програм вештачке интелигенције који користи оквире (да организује милионе бесмислених чињеница како би пронашао оне које су релевантне у датој ситуацији) упасти у замку вечног регреса оквира за препознавање релевантних оквира који препознају релевантне чињенице. Сходно томе, проблем оквира није представљао само проблем, већ и знак да нешто озбиљно није у реду у целом приступу.
Нажалост, оно по чему се истраживање вештачке интелигенције одувек разликовало од науке је чињеница да одбија да се суочи са својим неуспесима и да на њима учи. Када је у питању проблем релевантности, програмери вештачке интелигенције на МИТ-у шездесетих и раних седамдесетих ограничили су своје програме на оно што су назвали микро-световима – вештачким ситуацијама у којима је мали број потенцијално релевантних карактеристика био унапред утврђен. Пошто је овај приступ очигледно избегавао проблем оквира из ситуација у правом животу, докторанти МИТ-а били су приморани да у својим тезама тврде да се њихови микро-светови могу поставити реалистичније, и да би се технике које су увели могле генерализовати тако да укључе и здраворазумско знање. Но, није се појавила ниједна студија која би потврдила ове ставове.8
Истраживачки подухват Териja Винограда (Terry Winograd) најуспешнији је од свих који су предузети у истраживачкој фази микро-света. Његов програм „свет блокова“, SHRDLU, одговарао је на команде на свакодневном енглеском језику. Виртуелној руци робота издаване су инструкције да помера блокове приказане на екрану рачунара. Био је то парадни модел програма микро-свет који је заиста функционисао. Наравно, само у свом микро-свету. Како би постигао очекивану генерализацију својих техника, Виноград је почео да ради на новом Језику приказивања знања (Knowledge Representation Language). Стручњаци из његовог тима, изјавио је, „баве се развојем формализма („репрезентативности“) којим би се описало… знање“. И додао је: „Тражимо ‘атоме’ и ‘честице’ који творе знање, и ,,силе“ које на њега делују.”9
Али овај приступ није уродио плодом. Taкo je Мински недавно признао у часопису WIRED да је мозак вештачке интелигенције покојни још с’ почетка седамдесетих година, када се AI суочила са проблемом здраворазумског знања.10 Виноград, међутим, за разлику од својих колега, вођен научном одговорношћу покушава да установи где се у ствари погрешило. Тако смо средином седамдесетих, он и ја почели да се недељом виђамо на ручку како би у ширем филозофском контексту разговарали о проблемима са којим се сусретао. Осврћући се на овај период, Виноград каже: „Разговори које сам водио са Драјфусом суштински су утицали на мој рад у информатици.”11
После годину дана оваквих разговора и ишчитавања свих релевантних текстова феноменолога егзистенцијалиста, Виноград напушта рад на Језику приказивања знања и уводи Хајдегера у своја предавања из информатике на Стенфорду. Оваквим поступком, постаје први научник од угледа који дезертира из, заиста, истраживачког програмa у фази дегенерацијe. Џон Хогленд (John Haugeland) симболичку вештачку интелигенцију из тог периода назива Стара добра вештачка интелигенција – Good Old Fashioned Artificial Intelligence, скраћено GOFAI. Назив је широко прихваћен јер одражава суштину тренутног статуса овог иницијалног пројекта. И заиста, Мајкл Вилер (Michael Wheeler) тврди да се већ назире облик нове парадигме:
Хајдегерова когнитивна наука… управо избија на површину, у лабораторијама и канцеларијама широм света где се утеловљено-угнеждено (embodied and embedded) мишљење активно истражује и развија.12
Вилерова добро документована књига појавила се у прави час јер тренутно постоје барем три верзије наводно хајдегеријанске вештачке интелигенције за којe би се могло мислити да нуде нову парадигму у овој области: бихевиористички приступ Роднија Брукса (Rodney Brooks) на МIT-у, прагматистички модел Фила Агреа (Phil Agre) и неуродинамички модел Волтера Фримана (Walter Freeman). Сва три приступа имплицитно прихватају Хајдегерову критику картезијанских интерналистичких представа, и прихватају слоган Џона Хoгленда (John Haugeland) да је спознаја угнеждена и утеловљена.13
1 Ово није само мој утисак. Фил Агре, тада докторанд у AI лабораторији, касније је написао:„Чуо сам пуно различитих варијанти оваквих ставова… да је филозофија ствар чистог промишљања док је технологија ствар практичног деловања, и да се сходно томе филозофија искључиво може схватити као фалична.“ Philip E. Agre, Computation and Human Experience (Cambridge, Cambridge University Press, 1997), 239.
2 Како се наводи у изјави за штампу MGM-а 1968. поводом Кјубриковог филма 2001: A Space Odyssey.
3 Newell, A. and Simon, H.A., Computer Science as Empirical Inquiry: Symbols and Search, Mind Design, John Haugeland, Edt. (Cambridge, MA, MIT Press), 1988.
4 John R. Searle, The Construction of Social Reality (New York, The Free Press, 1995).
5 Martin Heidegger, Being and Time, J. Macquarrie & E. Robinson, Trans. (New York, Harper & Row, 1962), 132–133.
6 Michael Wheeler, Reconstructing the Cognitive World: The Next Step (Cambridge, MA: A Bradford Book, The MIT Press, 2007), 179.
7 Edmund Husserl, Experience and Judgment (Evanston, Northwestern University Press, 1973), 38. У исту сврху, Роџер Шенк је предложио нешто што је назвао сценарији, као што је, на пример, сценарио који се одвија у ресторану: „Сценарио је структура која описује одговарајуће секвенце догађаја у одређеном контексту. Скрипта се састоји од празнина и захтева (input) о садржају празнине. Структура је међусобно повезана целина, а садржај једне празнине утиче на садржај друге. Сценарио је унапред одређена, стереотипна секвенца радњи која дефинише добро познату ситуацију.“ R.C. Schank and R.P. Abelson, Scripts, Plans, Goals and Understanding: An Inquiry into Human Knowledge Structures (Hillsdale, NJ: Lawrence Erlbaum, 1977) 41. цитирано у: Views into the Chinese Room: New Essays on Searle and Artificial Intelligence, John Preston and Mark Bishop, Eds (Oxford: Clarendon Press, 2002).
8 По објављивању моје књиге What computers can’t do где сам, међу много других, указао и на ову потешкоћу, моје колеге са одсека за информатику универзитета МИТ, уместо да се суоче са критиком, покушале су да спрече да добијем мандат уз аргументацију да би мој ангажман на МИТ-у дао незаслужени кредибилитет мојим „заблудама“ и консеквентно довео до тога да Министарство одбране Лабораторији за вештачку интелигенцију укине грантове за истраживање. Истраживачи вештачке интелигенције стрепели су с разлогом. Помишљао сам да ангажујем глумца да са мном руча у професорском клубу МИТ-а и представи се као официр војне агенције за развој напредних одбрамбених технологија DARPA (Defense Advanced Research Projects Agency). Од плана сам одустао када ми је Jerry Wiesner (Џери Визнер), председник МИТ-а, пошто се консултовао са харвардским и руским научницима из области рачунарства и прочитао моју књигу – лично одобрио мандат. Притом ми је DARPA нешто касније упутила позив да у Вашингтону изнесем своје гледиште, док је Лабораторија вештачке интелигенције заиста изгубила подршку DARPA током периода који ће се називати Зимом вештачке интелигенције.
9 Winograd, T. (1976). Artificial Intelligence and Language Comprehension, Artificial Intelligence and Language Comprehension, Washington, D.C.: National Institute of Education, 9.
10 Wired Magazine, Issue 11:08, август 2003.
11 Heidegger, Coping, and Cognitive Science, Essays in Honor of Hubert L. Dreyfus, Vol. 2, Mark Wrathall Ed. (Cambridge, MA: The MIT Press, 2000), iii.
12 Michael Wheeler, Reconstructing the Cognitive World, 285.
13 John Haugeland, “Mind embodied and embedded,” Having Thought: Essays in the Metaphysics of Mind (Cambridge, MA: Harvard University Press, 1998), 218.
