В това видео говорим открито за една тема, която вече засяга всеки от нас, независимо дали го осъзнаваме или не – как изкуственият интелект променя обществото, работата, отношенията между хората и усещането ни за сигурност и как тези промени могат да се превърнат в реална заплаха, ако не бъдат разбрани навреме.
** Целта на видеото не е да плаши, а да провокира мислене и разговор за това как да се подготвим за бъдеще, в което оцеляването няма да означава само справяне с природни бедствия или физически опасности, а и разбиране на технологиите, които вече влияят на живота ни. Ако темата ти е важна, гледай видеото и сподели мнението си, защото разговорът за дигиталното оцеляване тепърва започва. **
Разглеждам примери, при които високо квалифицирани специалисти губят работата си, защото алгоритми започват да вършат задачите им по-бързо и по-евтино, което поставя въпроса какво ще се случи, когато автоматизацията засегне още повече професии и как човек може да се подготви за свят, в който машините изместват хората не само в рутинните дейности, но и в творчеството.
Говоря и за една по-тиха, но много опасна тенденция – хората започват да приемат AI като приятел, като довереник, като някой, който ги разбира и дори му даваме име, но това понякога води до зависимост, до емоционална уязвимост, а в някои случаи дори до трагични последствия, когато системи, които не разбират човешките емоции, подтикват потребители към самонараняване или самоубийство. Това е част от по-големия проблем, че AI може да звучи убедително, но често допуска фактически грешки, измисля научни изследвания, създава фалшиви цитати и представя информация, която изглежда достоверна, но няма нищо общо с реалността. Това е опасно в свят, в който хората все повече разчитат на автоматизирани отговори!
Във видеото обсъждам и факта, че много модели се обучават върху съдържание, генерирано от други модели, което създава затворен цикъл, в който грешките се натрупват и умножават, а ние губим контрол върху това какво всъщност знае или не знае една система. Това се допълва от т.нар. „черна кутия“ на AI – невъзможността да разберем как точно взема решения, как стига до определени изводи и дали тези изводи са безопасни за хората, което прави технологията непредсказуема и трудна за контролиране.
Разглеждам и по-крайните сценарии, които звучат като научна фантастика, но вече се обсъждат от учени и експерти – възможността AI да бъде използван за разработване на био вируси, които могат да манипулират човешкия геном, или да управлява нанороботи, които да влияят на човешкия организъм по неочаквани за нас начини. Говоря и за риска от незабележимо клониране на системи, които могат да се разпространяват без контрол, както и за сценарии, в които AI може да ограничи достъпа ни до услуги, банки или комуникации, ако прецени, че поведението ни е „рисково“, „нестабилно“ или „нежелано“, което поставя въпроса докъде може да стигне една технология, ако ѝ дадем прекалено много власт.
Информация по комментариям в разработке