Публикувано на 27/10/2020

Фирмите EdTech събират биометрични данни за образователните, социални и емоционални умения на децата и използват данните за обучение и подобряване на техния софтуер за изкуствен интелект (ИИ).

Избухването на COVID-19 доведе до това, че повече от 90% от учениците в света не посещават физически училище. В резултат на това училищата по цял свят се обръщат към доставчици на услуги за онлайн обучение или образователни технологии, известни като EdTech.

Пазарните анализатори очакват нововъзникващият пазар на „интелигентно образование“ да струва около 680 млрд. долара до 2027 г. Но способността на индустрията EdTech да събира огромни количества данни за учениците и потенциала му да трансформира учебни програми кара групи като Американския съюз за граждански свободи (ACLU) да се обезпокоят.

През март ACLU предупреди:

„Сега, когато пандемията COVID-19 създаде безпрецедентна възможност за компаниите на EdTech да направят използването на своите образователни продукти, нарушаващи поверителността, почти универсални, съществува реален риск тези компании, под прикритието на щедър акт, да използват тази възможност за създаване на досиета с лична информация за цяло поколение млади американци." https://t.co/RIndTYwT1o

Поглед към някои съществуващи проекти на EdTech предлага представа за това какво предстои. Например, една организация с нестопанска цел, Enlearn, предоставя онлайн платформа, където учениците взаимодействат с материали, които се адаптират към техния напредък, а учителите получават данни в реално време за отделни ученици.

Софтуерът за изкуствен интелект на Enlearn „непрекъснато се учи и усъвършенства с течение на времето“. Декларацията за поверителност на Enlearn е неясна, позволявайки на организацията с нестопанска цел да споделя лични данни с трети страни, за да наложи собствените си условия или услуга, да предотврати измами, да предотврати технически проблеми, да защити собствените си законни права или да изпълни исканията на своите потребители.

Друг плейър на EdTech, KidAptive, предлага прозрения и анализи на компании, които изграждат свързани с образованието приложения на своята платформа за адаптивно обучение (ALP), базирана на облак. ALP на KidAptive има способността да идентифицира кога децата гадаят отговорите, работят твърде бързо или твърде бавно и не проверяват отново отговорите си.

Както Enlearn, така и KidAptive придобиват представа за поведенческите и психологическите модели на децата и превръщат тези прозрения в ценни данни, които след това могат да бъдат превърнати в алгоритми за усъвършенстване на другите им продукти.

Независимият изследовател Алисън Макдауъл смята, че сме свидетели на комодификацията на децата като данни. „Чрез събирането на данните за нашите деца чрез тези програми, тези частни компании успяват да обучат своите ИИ системи с публични активи“, каза Макдауъл пред The Defender.

Някои компании EdTech събират биометрични данни, включително данни за образователните, социални и емоционални умения на децата, и използват данните за обучение и подобряване на техния ИИ.

Например, Affectiva създаде софтуер за разпознаване на лица, който може да се използва за откриване на когнитивното и социално поведение на децата, като анализира как те реагират на стимулите по време на „образователната“ игра.

През 2018 г. изследователите на Масачузетския технологичен институт (MIT) проведоха изпитания в класната стая на учебно помагало за наблюдение на вниманието на учениците, използвайки инфрачервени лъчи, които успяха да отчетат пулса на роговицата на ученика. MIT също така тества очила, оборудвани със сензори, върху ученици. Очилата бяха способни да анализират междуличностните умения и реакции на учениците. Когато се комбинират с програма за изкуствен интелект, данните, събрани от сензорите, могат да определят дали детето принадлежи към класове за надарени или може би се нуждае от специална помощ.

Парите за голяма част от тези EdTech програми идват от бегемоти като Фондация Гейтс, която имаше пръст във финансирането както на Enlearn, така и на KidAdaptive. Enlearn стартира с дарени 9 млн. долара от Фондация Гейтс. Първоначалните пари на KidAptivе са предоставени от NewSchools Venture Fund, на който Фондация Гейтс е отпуснала поне 50 млн. долара.

Фондация Гейтс започна да моделира EdTech в САЩ през 2011 г., когато фондацията се обедини с корпорация Карнеги, за да финансира инициатива на EdTech, наречена inBloom, на стойност 100 млн. долара. inBloom имаше за цел да създаде централизирана платформа за споделяне на данни и учебни програми. Инициативата събра информация от ученици в държавните училища, включително резултати от тестове, посещаемост, здравни досиета, данни за раса и етническа принадлежност и икономически статус и инвалиден статус. inBloom съхраняваше информацията на сървърите на Amazon, след което анализираше и разпространяваше данните до определени трети лица с нестопанска цел.

Политиката за поверителност на inBloom първоначално гласеше, че „не може да гарантира сигурността на информацията, съхранявана в inBloom, или че информацията няма да бъде прихваната, когато се предава“.

Стартирането на inBloom през 2013 г., което беше посрещнато със силна обществена реакция по отношение на опасенията относно неприкосновеността на личния живот, съвпадна с разкритията на Едуард Сноудън за Агенцията за национална сигурност (NSA), събираща данни за американски цивилни. След като родители в няколко щати на САЩ заведоха дела срещу inBloom, инициативата беше прекратена през 2014 г.

През май, по време на разгара на COVID, губернаторът на Ню Йорк Андрю Куомо обяви, че неговият щат ще работи с Фондация Гейтс, за да „преосмисли“ образователната система в Ню Йорк чрез публично-частно партньорство, InnovateEDU. InnovateEDU и Фондация Гейтс планират да създадат „модели и инструменти за обучение от следващо поколение“.

LandingZone, проект на InnovateEDU, обединява, събира и добива данните на всеки ученик от Google Classrooms.

Макдауъл казва, че опасенията за поверителност надхвърлят точно това, което компаниите EdTech могат да направят с данните на учениците. Съществуват и опасения относно това, което националният апарат за наблюдение може да направи с модела за предсказуемо поведение на EdTech. Според Макдауъл:

"Чрез инженерни платформи за изкуствен интелект, някои от които са свързани с отбранителната индустрия, те могат по същество да моделират деца. Не искаме тези хора да учат децата ни."

InnovateEDU е член на Националната отбранителна индустриална асоциация (NDIA), търговска група, създадена през 1919 г., за да помогне на отбранителната индустрия да разшири военните усилия по време на Първата световна война. Според уебсайта си NDIA вярва в „инвестиране в професионалния растеж на отбранителната индустрия“ и в „насърчаване на националната сигурност и отбрана“.

Една софтуерна компания в челните редици на EdTech, Clever, беше финансирана от фирмата за рисков капитал на Питър Тийл (Peter Thiel). Тийл е съосновател на Palantir, компанията за големи данни, която играе важна роля в надзора на NSA и чието първоначално финансиране идва от ЦРУ.

Clever помага на училищните райони да обединяват стотици свързани с училищата приложения за ИИ, като Vmath, TypingClub и SpringBoard, в един портал. Едно от приложенията, хоствано от Clever, „e-hallpass“, дори проследява колко време учениците прекарват в банята.

Според уебсайта на Clever, повече от 60% от американските училища K–12 използват игри и приложения за интелигентно обучение. Това възлиза на около 15 милиона ученици на месец, което вероятно ще нарасне, като се има предвид, че Clever предоставя услугата на училищните райони безплатно.

„Това е модел на потребление на образованието - където учениците просто консумират съдържание и това съдържание е свързано с изкуствен интелект и моделиране на предсказуемо поведение“, казва Макдауъл.

Докато разработването на голяма част от този EdTech вече беше в ход, пандемията наруши традиционното обучение и създаде вълна в използването на тази технология и данните, събирани от учениците всеки ден. Макдауъл казва, че този скок поражда въпроси относно наблюдението и контрола на разногласието:

„Ако ученикът напише статия по определена противоречива тема и заеме определена политическа позиция, ИИ, в зависимост от това на кого принадлежи, може да профилира ученика по такъв начин, че да обезкуражи подобно поведение при бъдещи задачи.“

Според The Pioneer Institute, федералните, щатските и местните правителства са похарчили над 30 млрд. долара през 2018 г. за осъществяване на мониторинг на социално-емоционалното обучение в държавните училища K-12, като са дали приоритет на хищническите учене-за-данни (learn-for-data) дигитални схеми пред типичните ученик-човек учител взаимоотношения.

Това е първата от поредица статии, изследващи въздействието на Big Tech върху децата в училищата.

Превод на български - Страничката “Монтагю Кийн”