неэтичным расширением масштабов

Кейтлин Оуверсон (моя подруга и бывшая студентка) пригласила меня поговорить с ней на тему того, что она называет «неэтичным расширением масштабов», а именно тенденции некоторых технологических компаний собирать личные данные, выходящие далеко за рамки того, что они на самом деле используют. чтобы создать личный опыт работы со своим продуктом. Вот история, которую я расскажу в этом выступлении

Идея желать чего-то (в отличие от прохождения всего процесса работы для достижения этого) проявляется во многих историях. Магия, которая часто используется в рассказах о желаниях, кажется подходящей метафорой для нашего текущего состояния технологий, которая дает достижения, такие как прибытие в пункт назначения, без особых усилий со стороны пользователя.

Остерегайтесь существ, исполняющих желания. Умные устройства, которые люди обычно носят с собой, куда бы они ни пошли, позволяют упростить выполнение самых разных задач, но за это всегда приходится платить. Желая чего-то, а не добиваясь немагическими средствами, человек упускает возможность узнать что-то и развить навыки.

Технологии могут нести те же затраты (например, забыть, как ориентироваться, управлять самолетом и звонить людям на телефоны, где их номера не сохранены), но также их цена скрыта в их условиях обслуживания (лицензионных соглашениях с конечным пользователем). Ожидается, что каждый пользователь не прочитает условия и не заключит согласованное соглашение с компанией на использование их продукта. По сути, компания просит пользователя доверять им (а затем приводит множество примеров того, почему никто никогда не должен им доверять – см. Google, Facebook, Equifax и т. Д.), Но на самом деле не дает им выбора не делать этого (что вы хотите быть потерянным навсегда?).

Смарт-устройства (телефоны, часы, тостеры и т. Д.) Предоставляют всевозможные полезные функции, которые мотивируют пользователей носить свои устройства с собой повсюду. Это отлично подходит для различных компаний, которые собирают информацию о местоположении (независимо от того, основаны ли их услуги на местоположении), но эти компании не останавливаются на достигнутом. Альтернативные издержки, связанные с тем, что люди взаимодействуют с окружающим миром напрямую, а не через посредников со смарт-устройствами, побуждают компании использовать свои устройства, приложения и услуги в каждом взаимодействии и транзакции.

Как только устройство начинает исполнять желания пользователя (например, добираться туда, куда они хотят), оно может зарекомендовать себя в качестве устройства для достижения любых возникающих потребностей (это то, что Siri, Alexa, любая голосовая вещь, которую делает Google, и Кортана делает). Стоимость для пользователя не меняется – это те знания / навыки, которые они упускают, полагаясь на устройство, которое что-то делает для них, + все то, от чего они согласились отказаться в соответствии с условиями использования.

Любые данные, которые может собрать устройство, собираются и анализируются для поиска закономерностей. Статистический анализ используется для определения сходства между пользователями (сигнал) и различий (шум), что затем может использоваться для прогнозирования поведения пользователей. Эти прогнозы могут происходить в форме «если эта реклама появится для пользователей этого типа, они, скорее всего, на нее нажмут».

Это может показаться невинным … всего лишь одно интеллектуальное устройство, тайно говорящее о своем пользователе неисчислимому количеству компаний и других устройств, но информация, которую здесь продают, носит не только биографический характер – какая компания будет заботиться об интересах и привычках отдельного человека? То, что продается, – это способность влиять на поведение людей.

Это способность сказать кому-то именно то, что ему нужно услышать, чтобы заставить его сделать то, что хочет компания (независимо от того, действительно ли это то, чего пользователь хочет или в чем нуждается).

Многие люди будут защищать таргетированный маркетинг, потому что он звучит намного лучше, чем небрежный вид (по крайней мере, реклама актуальна для меня!), Но сколько людей в конечном итоге покупают вещи, которые им не нужны (тратя деньги, которые в противном случае могли бы сэкономить) , создавая отходы, и введите

Целевой маркетинг – не единственная цель сбора пользовательских данных. Устройства не просто сидят сложа руки и ждут, пока люди с ними пообщаются, потому что могут быть другие занятия, которыми люди хотят заниматься, когда им скучно.

Они разработаны таким образом, чтобы взаимодействие с ними было превыше всего. Конечно, вы можете прогуляться, поговорить с друзьями и семьей, найти новое хобби, осуществить мечту всей жизни … ИЛИ вы можете провести время, прокручивая бесконечную ленту забытой информации.

Любой из первых видов деятельности отвечает интересам человека («пользователя» / клиента), но последний вид деятельности полностью обслуживает техническую компанию. Вы хотели грустить? сердитый? испугался?раздражен? прокрутка бесконечной ленты может легко вызвать любую из этих эмоций (как правило, это статьи и видео, которые пользуются наибольшей популярностью).

Затем Кейтлин рассказывает о различных действиях, которые исследователи и дизайнеры могли бы предпринять, чтобы уберечь свои технологии от неэтичного распространения и убедиться, что они не просто исполняют пустые желания. У нее есть отличные идеи, и она умеет их синтезировать, и я так ею горжусь.