Обновена на 24.07.2018 от Questo
Преди няколко седмици започнах тестов разговор с чатбот, който помага на хора с депресия и безпокойство. За целта роботчето използва техники от когнитивно-поведенческата терапия, а след това събира и анализира предоставената от потребителя информация. Идеята беше да разбера какво се случва след това с тази информация и кой може да я види. Както и дали мога да получа достъп до информацията, която е събрана за мен.
Роботът е разработен от учени от Станфорд и използва Facebook Messenger като платформа за комуникация. Дори този факт може да е малко смущаващ, тъй като поставя целия разговор с чат бота под контрола на политиката за поверителност на Facebook; а както знаем, тя невинаги е в полза на потребителя.
Официално Facebook твърди, че не чете и не анализира съобщенията на потребителите си. Незавиисмо от това авторите на бота изрично посочват, че „тъй като разговорите с Woebot се провеждат през месинджъра на Facebook, данните ви са обект на политиката на поверителност на Facebook. Facebook вижда, че говорите с Woebot и може да вижда съдържанието на разговорите“.
Да забравим за Facebook за малко. Авторите на бота твърдят, че не събират кой знае колко информация за хората, които си чатят с Woebot: основно информация като първо име и пол, за да може разговорът да стане по-персонализиран. Това обаче важи за информацията, която ботът събира от Facebook профила.
Отделно от това Woebot си има база данни, където събира информация от всички разговори, проведени с потребители. Самият потребител вижда това по време на разговора, тъй като роботчето задава въпроси от рода на „Помниш ли, когато вчера ми каза…?“ или „Помниш ли какво ти разказах…?“.
Тази база данни вероятно се хоства някъде в интернет; поне така работят повечето чатбот услуги. Да кажем, че искате да си направите собствен чатбот, който работи през Facebook Messenger (вече има услуги, които ви позволяват да го направите, дори и ако не разбирате нищо от изкуствен интелект). Базата данни на този чатбот се хоства на сървъра на услугата, която използвате: така, както базата данни на вашия wordpress.com блог се хоства на сървърите на WordPress.
По-важното е обаче не къде се пазят данните, а дали потребителят има достъп до тях. За да получите достъп до вашите данни, трябва да изпратите в чата командата REQUEST_DATA, обясни ми Памела Фокс, технически директор на Woebot. „Нямаме достъп до вашия Facebook профил или последното ви име – казва Фокс. – Най-лесният начин да идентифицираме акаунта ви е да изпратите съобщение до Woebot. Бихте ли написали REQUEST_DATA в чата? Той няма да го разбере, но ние можем!“
Последното предполага, че авторите на бота правят някакъв анализ на информацията, която тече като разговор през Woebot. Дори и да не четат всяко съобщение, очевидно могат да идентифицират отделни съобщения и команди. Спорно е в каква степен това е редно.
Има и други неща, които подсказват, че авторите на проекта май не са доизмислили частта с обработка на лични данни. На сайта е посочено, че за достъп до лични данни следва да се изпрати заявка до определен имейл адрес. Оказа се обаче, че имейл адресът изобщо не съществува.
Така в крайна сметка изпратих съобщение в чата, с което искам копие от данните, събрани за мен като потребител. В рамките на 36 часа не получих никакъв отговор и още чакам. Това означава или че всяка заявка се обработва индивидуално, или че авторите на проекта въобще не знаят как да реагират, когато получат такава заявка.
Едно е сигурно: хората и софтуерът, който стои зад чат бота, със сигурност обработват информацията, която споделям с него. Може и да не получих пакет с лични данни, но за сметка на това на собствена инициатива роботчето ми изпрати анализ на настроенията ми през изминал период от около 2 седмици. Този анализ е изготвен на базата на това, което съм споделил с роботчето.
Подобни статии
Брат..
Дали си бил на кеф вчера или не струва ли ти се като лична информация?
Ако ботчето те пита „Помниш ли си ЕГН-то и паролата за банковата сметка?“ то тогава може.
Тоест: Ботчето (което поразцъках малко) ми се струва безобидна зарибява с научна цел.
Докато на темата за личната информация: Обади се на Еном и поръчай domain privacy.
😉
Това, което ме притеснява, е, че така и не разбрах какво точно знаят за мен хората, които стоят зад бота: един път ми казват, че ми знаят името и пола, друг път – че ми знаят само малкото име. Когато си поискаш данните от тях не дават нищо. И това са същите хора, които вече са ти направили определен психологически профил. Използвах примера с настроенията просто за да покажа, че този бот реално събира и анализира данни за потребителите, ако ще и да не са лични.
П.П. не бих се доверил на сайт, който използва domain privacy, затова и не използвам такъв.