Чакай малко. До сега говореше, че не говорим за морала, а сега намеси и морала.
Моралът е нерационален и не носи рационални дивиденти. Това изобщо не е някакво откритие. А по-скоро същината му.
Ако беше в полза за човек, нямаше да се нарича морал.
А дали води до "спасение".
Това е сложен въпрос, и заслужава отделна тема. Искрено съжалявам хора (грехота е да се съжаляват хора, но понякога и аз го правя), които се надяват, че чрез спазване на някакъв си техен "морал" ще получат някакви конкретни придобивки с цел лична изгода. Това е жалко. Моралът, си струва само ако е личен. Спрямо личната ценностна система. И правиш нещо, защото смяташ, че така е редно, и защото обичаш да правиш нещата както трябва (да правиш каквото трябва). Това след много време евентуално би допринесло за изграждането ти като личност. И само това.
От определена гледна точка е безкрайно малко. А от друга, никак не е малко. Може би целият смисъл на цялата ни еволюция и съществуване е именно това. Да проверяваме на какво сме способни, нашите действия, и да се учим.
За компютрите и звездите.
Нали това казвам. ИИ като си знае, че пълно е обратното на празно, и това му е продупчено там в постоянната памет; ти като му кажеш "тая вечер е пълно със звезди", той/тя/то ще погледне нагоре и ще каже ... хмм "не, изобщо не пълно. Всъщност, само 0.1242354364 % от видимата небесна площ е заета от звезди." И ако е много умен ИИ, след като 10 размечтани романтички му го кажат, той/тя/то, ще си направи 2 извода:
1. "жените са тъпи същества" (не казвам, че е вярно, а че робота ще си го помисли)
2. "Небето не е съвсем пълно със звезди, но този идиоматичен израз аз ще го запомня, и ще го пускам отвреме на време, без всъщност да проумявам защо го ползват хуманоидите".
Както и да е. Всички тези философии са в кръга на шегата.
Истината е, че много по-съществени са други проблеми, с неумението на ИИ да абстрактира, генерализира и конкретизира.
Например, вари го, печи го, ИИ не може да види разлика между нарисувана врата и истинска. Ако е достатъчно як, ще избие стената.
Живите организими чрез сетивата си приемат 10000000000000000000 информационни единици в секунда, зрителни, обонятелни, звукови и тн. Милиони цветове, милиони пиксели. Няма компютър на света нито с такъв интерфейс на приемане, нито с такава процесорна мощ за обработване.
А ние хората обработваме всичката тая информация, ЗАЩОТО, има хиляди, милиони генерализации. В йерархични пирамидални структури. Лист от обекти, които са червени, лист от обекти, които са течни, лист от обекти, които са от текстил, лист от обекти, които са негри, лист от обекти, които са правилата за движение по пътищата и още милиони примери.
Тези генерализации се преплитат в супер сложни плетки. За един обект отговарят десетки генерализации.
Едно ферари е, и червено, и метално, и превозно средство на 4 колела, и скъпо, и ръждясва, и служи за придвижване, и служи за гъзария, и може да бъде крадено, и може да бъде ремонтирано, и може да бъде катастрофирано, и може да служи да убива хора и тн.
Тръгнах да говоря за зрителните генерализации при хората и се отплеснах.
Повтарям се, за горните изброени е абсурд да вкараш всичката тая заплетена информация в ИИ, и най-вече е абсурд, ИИ да разграничи и да каже за един обект какъв лист от качества има, АКО НЕ ГО ПОЗНАВА. Т.е. не може да го познае. Дори да има вкарана базата данни.
Та за зрителните генерализации.
Хората са уникални в абстрактирането. Ние хората забелязваме едва нищожен процент от картината, която виждаме. Главно движещите се обекти. А също и ярките. Автоматично знаем какво да игнорираме. Знаем кое е важно и кое не. ИИ не знае. Ще види един червен домат и може да си помисли, че е важен, заради цвета. А в същото време да има проводници с високо напрежение, да стъпи върху тях и да го изпържат.
Когато ние гледаме можем с лекота да разграничим повечето текстури - метал, пластмаса, дърво, имитация на дърво, плат, кожа, плът, камъни и тн.
Един ИИ не може. Може да има някаква паяжина на вратата, той ще си помисли, че вратата е затворена.
Може да прехвръкне птица. Той ще си помисли, че го замерят с камъни.
и тн...