Статия на Евгени Морозов за Файненшъл таймс
Евгени Морозов е един от най-популярните световни блогъри на тема „Социални и политически влияния на технологиите“. Морозов е беларусин, възпитаник на Американския университет в България.
Гост-лектор е в университета Станфорд и публикациите му се отразяват регулярно от най-големите глобални издания – Ню Йорк Таймс, Файненшъл таймс, Уолстрийт Джърнъл, Икономист, списание Форин полиси и т.н
Оскар Уайлд е написал някога, че „бъдещето на света зависи от механичното робство, робството на машините“. Ирландецът щеше да е фен на Google Now, конкурента на Siri, духовития гласово активиран персонален асистент на Apple.
Google Now е по-слабо общителен от Siri. Той предугажда въпросите ви, като анализира това, което Google вече знае за вас. След това той подбира късове информация от които се нуждаете в момента, предоставяйки ви ги като хубави индексни карти. Наличен в смартфоните, работещи на Android, Google Now може скоро да е част и от браузърите ни.
Това е типична машина за решаване на проблеми. Ще гоните полет по-късно? Понеже резервацията ви е в кутията на Gmail или в календара на Googlе, Google Now ви показва напомняне, казва ви какво време да очаквате при пристигането и карта за най-добрия път до летището, като е проверил трафика преди това.
Всичко това е възможно, тъй като Google може да предугади от каква информация ще се нуждаете. Прогнозата им се базира на известна теория за това кои сте вие, какво искате и къде искате да отидете. За много дейности, подобна теория не трябва да е твърде задълбочена, за да даде точни прогнози. На Google не им се налага, примерно, да прогнозират политическите ви пристрастия, за да установят, че карате до летището всеки понеделник.
Но последната версия на Google Now генерира и много различно напомняне. Google с удоволствие докладва, даже без да сте им го искали! – колко километра сте вървели пеша или сте карали колело. Тази интервенция не е прост, безполезнен факт, свързан с времето. Тук Google прави допускане, че ходенето пеша е по-важно, а вероятно дори и по-морално, отколкото, да кажем, шофирането. Той „вгражда“ моралност в приложенията си, ангажирайки се с нещо, което бихме определили като „алгоритмично побутване“.
Ако правителствата бяха подкрепили подобна интервенция базирана върху наблюдение, мнозина биха я определили като вмешателство, най-малкото защото подобно нещо трябва да е обект на обществен дебат. Дали измерваме правилните неща? Дали несправедливо обвиняваме отделите хора за грешките на институциите? Ходенето пеша без съмнение е по-просто в Манхатън, отколкото в предградията на Лос Анджелис.
Когато Google е начело, обаче, съпротивата е минимална. Нямаме нищо против телефоните ни да ни шпионират – поне засега, когато Google използва тази информация за да ни каже да не закъсняваме за полетите. Също така биваме убеждавани, че опитите на Google да препредава информацията, която събира, са обективни и тази информация просто съществува „някъде там“.
Силата и изкушението на Google „да прави добро“, само ще нарастват. С интегрирането на услугите под един чадър – карти, имейли, календари, видеоклипове, книги, компанията знае все повече за моралните ни провали.
И когато Google започне да посредничи при взаимоотношенията ни с окръжаващата ни среда – чрез самозадвижващите се автомобили, „умните очила“, смартфоните, просторът за алгоритмично побутване също нараства.
Google не крие тази цел. Председателят на борда Ерик Шмид определя нещата така: „Технологията вече не е хардуер и софтуер. Тя е за „дълбаене“ и използване на тези огромни бази данни, за да се направи светът по-добро място“.
Политиците може също да бъдат заинтригувани, тъй като „побутването“ на компанията може да отиде стъпка по-нататък. В скорошен свой труд Кас Сънстайн, бивш член на екипа на президента Обама, развива тезата за нуждата в настоящия свръхбогат на информация свят да има промяна на правилата „на подразбиране“. (Т.е – всеки да прави отделен самостоятелен избор при всяко обществено или политическо решение, а не по подразбиране да се приема обществен избор – на пенсионен фонд, на медицинско заведение и т.н.)
Представете си, че вечеряте с последната иновация на Google – умните им очила. В момента в който сте влезли в ресторанта, Google вече знае дали сте поели калориите си за деня. Той знае и че мазните храни ви вредят. Дали той трябва да се прави на загрижен за вас Биг Брадър, който да ви каже да избегнете определени храни? Дали трябва да скрие от менюто определени храни?
В управляван от Google свят, няма нужда изобщо да се забраняват големите газирани напитки, тъй като „умите очила“ могат да ви накарат да вярвате, че чашата с газирана напитка е по-голяма, отколкото всъщност е. Това не е научна фантастика – японски учени наскоро представиха монтирана на главата оптична система, която прави точно това с порциите храна.
Подобни технологии дават доста пренебрежителна оценка за хората-господари. Хората вече не са граждани, способни на оценка, а са третирани като зъбчати колела, в система заета със самооптимизация.
Но дали Google ще се справи по-добре със затлъстяването или климатичните промени, отколкото го правят реформите на правителствата? Водено от корпорация „алгоритмично побутване“ създава илюзията, че проблемите могат да се решават само с индивидуални действия. Това е модел в стил Опра Уинфри за социална промяна – мечта от Силициевата долина.
Твърде угодно за корпорация, Google ни третира като максимализиращи удобствата потребители, а не като граждани, които може да ги е грижа за други членове на общността. Не трябва ли, като граждани, да си даваме сметка за онези, които не могат да ядат здравословна храна или да работят на разстояние от дома, което да им позволява да вървят пеша? Или просто да ги снабдим с телефон с Android?
Трябва да поставим лимити на корпоративното „правене на добро“ и да защитим гражданските си процеси от доброжелателните инженери на Google. Последните могат, примерно, да изобретят услуга, която да припомня на нашите политици защо сме ги избрали.
