„Бавачки ботове“ с ИИ обещават на децата „истинско приятелство“, но експертите предупреждават за вредата върху когнитивното и социалното развитие
От Моника Дъчър и Джон-Майкъл Думис, 17/08/2023
От известно време насам технологичните новатори предупреждават за негативните страни на изкуствения интелект (ИИ) - от създаването на дийпфейк видеоклипове (https://www.cnn.com/…/bus…/pentagons-race-against-deepfakes/) през загубата на работни места (https://www.forbes.com/…/goldman-sachs-predicts-300…/…) до пълното изчезване на хората (https://www.nytimes.com/…/technology/ai-threat-warning.html).
[бел. прев. - Дийпфейк или дълбока фалшификация е технология, която използва форма на ИИ, съчетана с машинно обучение, за да се заменят във видеоклип или аудиозапис изказвания или действия на различни хора. Макар че създаването на фалшиво медийно съдържание не е ново явление, дълбоката фалшификация се използва за манипулиране или генериране на визуално съдържание, нерядко целящо измама, заблуда, или друга користна цел.]
Но в повечето от тези дискусии липсва въпросът как ИИ влияе пряко на децата - въпреки че технологията вече е налице, в детските стаи и занимални.
Производителите вече предлагат широк избор от продукти с ИИ за деца (https://thechainsaw.com/…/artificial-intelligence-ai…/), като следващото поколение устройства с ИИ „вероятно ще се превърнат в електронни детегледачки“ (https://www.wsj.com/…/the-ai-nanny-in-your-babys-future…) - „бавачки с изкуствен интелект“ или „бавачки ботове“ - и ще се използват като телевизията и видеоигрите, за да облекчат грижите за децата.
Връзката на технологията с децата поражда сериозни опасения относно въздействието ѝ върху тяхното емоционално и неврологично развитие и върху неприкосновеността на личния им живот.
Д-р Мишел Перо, съавтор на книгата „От какво боледуват децата ни“ (https://www.chelseagreen.com/…/whats-making-our-children…/), която е работила 40 години в педиатрията, казва пред The Defender:
„Общуването между родителя и детето е нещо повече от нервно взаимодействие. В допълнение към вербалната комуникация съществуват неизмерими елементи, като например изражението на лицето, тоналните промени и често пренебрегваните енергийни обмени, които се случват между хората и които е невъзможно да бъдат уловени от изкуствения интелект.
Децата се учат с помощта на шестте си сетива, а емоционалната интелигентност, предавана чрез общуването, е ключова част от това обучение. Да не говорим, че има културни различия, които се предават в развитието на езика и общуването и които биха били изгубени с бавачките с изкуствен интелект.“
„ПРИЯТЕЛИ ЗА ИГРА “ С ИЗКУСТВЕН ИНТЕЛЕКТ ОБЕЩАВАТ „ИСТИНСКО ПРИЯТЕЛСТВО“
Подобно на иновациите на предишните поколения, продуктите с ИИ имат за цел да ангажират децата, да усъвършенстват определени умения и да улеснят живота на родителите.
Например роботът Мокси (https://moxierobot.com/) е обявен за „най-усъвършенствания робот с изкуствен интелект за деца на възраст над 5 години“. Той е предназначен да помогне на децата да развият умения като обработване и изразяване на емоции.
Мико (https://miko.ai/) - друг приятел за игра с ИИ - обещава „истинско приятелство“ за децата, като ги разпознава и нарича по име и реагира на настроението им.
„Имате нужда от шега, когато сте в криза? Танц, когато ви е скучно? Мико ще се погрижи“, се казва в уебсайта на продукта. „Защото това не е просто най-умният малък робот, който някога сте срещали. Освен това е ваш приятел.“
Днес децата редовно си взаимодействат с ИИ чрез домашни устройства като смартфони („Hey Siri“) и устройства за домашна автоматизация („Hey Google“), за да включват и изключват светлини и музикални плейлисти и да получават отговори на широк спектър от въпроси.
Сандра Чанг-Кредл, доктор на науките, доцент в катедрата по образование в университета „Конкордия“ в Монреал, Канада, казва пред The Globe and Mail (https://www.theglobeandmail.com/…/article-how-will-ai…/):
„Искаме ли децата да мислят, че играчките или предметите са също толкова добри, колкото истинските домашни любимци, истинските приятели или истинските хора? Това ме притеснява... Каква ще я бъде, когато децата умишлено се насърчават да бъркат кое е предмет и кое е живо същество?“
ИИ не се ограничава само до роботи и устройства.
Например през февруари социалната медийна платформа Snapchat пусна задвижвания от ChatGPT „My AI“ („Моят ИИ“) ( https://help.snapchat.com/…/13266788358932-What-is-My-AI-on…),
предназначен да бъде „експериментален и приятелски чатбот“ (https://www.dailymail.co.uk/…/What-AI-Snapchat-rid-it.html) и „личен помощник“.
Въпреки че условията за ползване на Снапчат изискват потребителите да са навършили 13 години, няма проверка на възрастта, което улеснява регистрацията и използването на услугата от по-малки деца (https://www.commonsensemedia.org/…/parents-ultimate-guide…).
Ако не се наблюдават внимателно от родителите и не се регулират от правителствата, тези по-безплътни инструменти с ИИ, макар и да не са физически като бавачките-роботи, биха могли да заместят реалните социални връзки и да подкопаят уменията, от които децата се нуждаят, за да договарят отношения в един сложен свят, заявиха експерти по детско развитие пред The Defender.
ГУШКАНЕТО, ИГРИТЕ И ВЗАИМОДЕЙСТВИЕТО ЛИЦЕ В ЛИЦЕ „НЕ МОГАТ ДА БЪДАТ ВЪЗЛОЖЕНИ НА ВЪНШНИ ИЗПЪЛНИТЕЛИ“
Все още е твърде рано да се каже как ИИ ще повлияе на развитието на децата, но експертите могат да направят някои предположения.
Д-р Лиз Мъмпър, президент и главен изпълнителен директор на Центъра за интегративна медицина Римланд (https://www.rimlandcenter.com/), казва, че мисълта за бавачки с изкуствен интелект „предизвиква в нея естествена реакция на страх“.
Мъмпър казва пред The Defender:
„Тъкмо станахме свидетели на опустошителните последици за детското развитие по време на контрамерките на COVID. Иновациите, които отдалечават хората един от друг, омаловажават ролята на човека в отглеждането на децата и издигат технологиите като частични заместители на родителите, ме карат да се тревожа за следващите поколения.
Родители, бъдете внимателни, тъй като тази технология се рекламира. Някои аспекти на отглеждането на бебета и малки деца - гушкането, играта и общуването лице в лице - не могат да бъдат възложени на външни изпълнители.“
Според неотдавнашна статия в Wall Street Journal на д-р Дана Зюскинд, основател и съдиректор на Центъра за ранно обучение и обществено здраве TMW (https://tmwcenter.uchicago.edu/) и директор на Програмата за детски кохлеарни импланти в Чикагския университет, все още има много какво да се научи за развитието на мозъка.
Тя пише в „Бавачката с ИИ в бъдещето на вашето бебе“ (https://www.wsj.com/…/the-ai-nanny-in-your-babys-future…):
„Това, от което бебетата се нуждаят най-много, за да оптимизират този ранен период на бърз напредък, са богатите разговори, които психолозите на развитието наричат взаимодействия от типа „подай и върни“. Това е естествено за родителите, които общуват с децата си, и е известно, че стимулира развитието на познавателните и емоционалните умения на децата...
Запознаването на младите мозъци с отзивчив ИИ може да ги промени по фундаментални начини, които не можем да предвидим. Ако предоставяме неправилен вид информация или взаимодействие, можем да нарушим когнитивното развитие по широкообхватни начини.“
Педагогът Джонатан Сим е загрижен за влиянието на изкуствения интелект и социалните медии върху социалното развитие на децата и способността им да си сътрудничат. В рубрика за Channel News Asia Сим пише (https://www.channelnewsasia.com/…/ai-artificial…):
„Наблюдавал съм ученици, които се затрудняват с групови проекти, тъй като не могат да разберат как някой може да работи толкова различно от тях - погрешно схващане, подсилено от опита им в социалните медии, където те общуват с подобни хора в рамките на своя балон…
Като виждам как тези персонализирани балони карат нашите младежи да се затрудняват да разбират и работят с другите, се притеснявам, че този проблем ще се задълбочи при децата, отгледани от изкуствен интелект.
Ако не внимаваме, рискуваме да отгледаме поколение деца със силно изкривени представи за света поради персонализирания балон, който ИИ създава около тях.“
ЗАГРИЖЕНОСТ ЗА ПОВЕРИТЕЛНОСТТА НА ТЕХНОЛОГИИТЕ ЗА ИЗКУСТВЕН ИНТЕЛЕКТ, ОРИЕНТИРАНИ КЪМ ДЕЦАТА
Един продукт с ИИ, Storytimes (https://www.storytimes.ai/), използва програма, която разказва на децата история и генерира придружаващи илюстрации въз основа на снимки, които потребителят качва. На уебсайта на Storytimes се казва: „С помощта на изкуствен интелект сме в състояние да пресъздадем реалистични илюстрации на вашето дете в различни ситуации и приключения“.
Уебсайтът на продукта предлага информация за творческите функции, но не посочва как ще се използват изображенията на деца и дали ще бъдат включени предпазни мерки за защита на изображенията на деца.
Фирмите за бебешки монитори предлагат технология с ИИ, която записва лицата, звуците и движенията на бебетата денонощно. Според „Вашингтон поуст“ (https://www.washingtonpost.com/…/02/25/ai-baby-monitors/) критиците се опасяват, че устройствата са свързани с големи компромиси по отношение на неприкосновеността на личния живот и отварят домовете за кибератаки.
Адвокат Грег Глейзър заяви пред The Defender: „Учудва ме, че законодателите и регулаторните органи не виждат две стъпки напред, за да защитят активно децата от ИИ.“
Подобни опасения за неприкосновеността на личния живот се отнасят за всички игри, видеоклипове и платформи на социалните медии, с които децата си взаимодействат.
Федералната търговска комисия обмисля предложение да позволи на фирмите да използват задвижвана от ИИ биометрична технология за сканиране на лицето (https://childrenshealthdefense.org/…/ftc-gaming-kids…/), за да получат родителско разрешение за деца под 13 години да използват услуги за онлайн игри. Но гаранциите за поверителност, предложени от индустрията, не убеждават критиците.
„НЕЯСНИ И НЕИЗПЪЛНИМИ“ ОБЕЩАНИЯ
През юни законодателите на Европейския съюз (https://www.channelnewsasia.com/…/eu-lawmakers-vote-tougher…) подписаха проектозакон за използването на ИИ (https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF), включващ забрана за използване на технологията за биометрично наблюдение и определени клаузи за защита на децата.
Това е първият закон за ИИ, приет от голям регулаторен орган, и може да послужи като модел за други юрисдикции, които планират подобни разпоредби.
Проектът за политически насоки на УНИЦЕФ (https://news.un.org/en/story/2021/11/1106002) насърчава правата на децата и повишава осведомеността за това как системите за изкуствен интелект могат да подкрепят или подкопават тези права. Ръководството е разработено след обширен процес на консултации с експерти от цял свят и почти 250 деца в пет държави.
Стивън Восло (https://news.un.org/en/story/2021/11/1106002), специалист по данни, изследвания и политики в УНИЦЕФ, заяви:
„Възможно е изкуственият интелект да използва обработка на естествен език, за да разбира думи и инструкции, и така да събира много данни от детето, включително интимни разговори, които се съхраняват в облак, често на търговски сървъри. Така че има опасения за неприкосновеността на личния живот...
Около една трета от всички онлайн потребители са деца. Често откриваме, че по-малките деца използват платформи за социални медии или за споделяне на видеоклипове, които не са създадени с оглед на тях.
Често те са проектирани за максимална ангажираност и се основават на определено ниво на профилиране въз основа на набори от данни, които може да не представляват децата.“
Според сп. „Нейчър“ (https://www.nature.com/articles/d41586-023-02491-y) „САЩ нямат широки федерални закони, свързани с изкуствения интелект, нито значителни правила за защита на данните.“ Изслушванията в Конгреса и срещите с президента, свързани с регулирането на изкуствения интелект, доведоха до „неясни и неизпълними“ обещания, съобщава Нейчър.
Тази година в шест щата (https://epic.org/the-state-of-state-ai-laws-2023/) влизат в сила закони, свързани с ИИ. Повечето от тях са част от всеобхватни закони за защита на личните данни на потребителите, които регулират ИИ и автоматизираното вземане на решения, като позволяват на потребителите да се откажат от профилиране и изискват оценки на въздействието.
Двата проектозакона в Минесота, предлагащи да се забранят алгоритмите на социалните медии, насочени към деца, се провалиха. Два бяха разгледани в Калифорния миналата година: AB 2273 (https://trackbill.com/…/california-assembly-bill…/2228971/), „Калифорнийски закон за възрастово подходящ дизайн“, беше приет и подписан, а AB 2408 (http://custom.statenet.com/public/resources.cgi?id=ID:bill:CA2021000A2408&ciq=ncsl&client_md=7430a0fd63ab927540bfed4176aab05d&mode=current_text), „Закон за задълженията на платформите на социалните медии към децата“, беше „тихо убит“ (https://www.governing.com/…/california-can-no-longer-sue…) от Сената на Калифорния.
През тази законодателна сесия 12 щата приеха закони за изкуствения интелект (https://epic.org/the-state-of-state-ai-laws-2023/). RB 1103 (https://www.cga.ct.gov/…/TOB/S/PDF/2023SB-01103-R00-SB.PDF) на Кънектикът е единственият, който засяга защитата на децата, но дори и тогава той споменава само накратко въпросите, свързани с неприкосновеността на личния живот, а не потенциалните неврологични и социални последици от излагането на деца на ИИ.
Няколко щата предложиха законопроекти за повишаване на прозрачността и разбирането на ефектите от изкуствения интелект. Само два законопроекта са насочени към децата: калифорнийският AB 1282 (https://legiscan.com/CA/text/AB1282/id/2827138) и HM 75/SM 63 (https://custom.statenet.com/public/resources.cgi?id=ID:bill:NM2023000SM63&ciq=ncsl&client_md=64df2e91927ec3dc165236870564e3a1&mode=current_text) на Ню Мексико създават комисии, които да докладват за рисковете за психичното здраве, свързани с използването на социални медии и изкуствен интелект от децата.
Превод на български - Страничката "Монтагю Кийн"
Източник: https://childrenshealthdefense.org/defender/artificial-intelligence-nanny-babysitter-children/?fbclid=IwAR0ywvcTEROqsiNenKEYRld0w_8pqbJM3pUCSFKuHaYZ7NtNjHieDi4MtMU
