![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Прослушал лекцию об AI и наших новых разработках в этом направлении
О возможности обманывать AI при помощи генераторов шума. Все наши разговоры будут записываться и анализироваться невероятно точно: AI будет знать о нас все, гораздо больше, чем мы сами о себе знаем. На основании этих знаний будет расчитываться им вся жизнь вокруг нас. Как пример - страхование здоровья. Страховой компании, больничной кассе интересно минимизировать убытки. Они собирают данные: кто сколько болеет. Больше болеешь - выше премия. Это уже делается сейчас, но пока анонимно, группами по возрасту. Группы все более уточняются: по возрасту, по полу, по профессии, по уровню образования, по месту жительства... Скоро уточнится до предела, до одного человека, до меня.
До сих пор можно было позволять себе надеяться, что миру нет дела до маленького тебя. Прятаться в статистике. Это было все труднее. Лет 80 назад уже мало у кого получалось, но еще много у кого получалось. Теперь у мира появляются мощности, достаточные, чтобы не упускать из внимания никого, даже самого маленького тебя. Знание о тебе всего-всего начинает стоить достаточно дешево. И оно начинает работать. Приносить прибыль. Затраты на наблюдение, сбор данных и их анализ, настолько малы, что выгода неизбежна.
Это меняет жизнь качественно. Сельскохозяйственная революция и переход к оседлой жизни примерно сравнимы с этим по влиянию на человеческую жизнь. Теперь ты не просто выходишь на улицу и все, кому интересно, на тебя смотрят. Теперь ты живешь посреди площади, посреди стадиона, и на тебя смотрят непрерывно, на случай, если вдруг произойдет что-нибудь, социально или экономически интересное.
Но их выгода меня волнует мало, меня волнуют мои проигрыши.
Где можно потерять? Про китайский эксперимент с социальным кредитом знают все. Необязательно доходить до такой оптимизации, хотя почему нет? Кругом польза, и очень просто делается. Но можно и без китайских сказок, без политики - чистый бизнес, ничего личного. Камера сняла тебя курящим, распознала твое лицо, послала данные в твою страховую компанию, у тебя поднялась страховая премия. Не обязательно делать что-нибудь протестное, антисоциальное или асоциальное. Достаточно просто существовать. Сходи пять раз подряд в один и тот же магазин, и тебе автоматически поднимут в нем цены. И подарят шоколадку, чтобы тебе было приятно и дальше к ним ходить.
Поэтому, чтобы согнуть баланс в свою пользу, жизненно важно будет обманывать AI. Пока еще у нас есть определенная анонимность, но ее будет становиться все меньше и меньше. Сделать это можно генераторами шума. Поскольку все телефонные переговоры прослушиваются и анализируются, понадобится написать робота, который будет звонить по телефону другому роботу и разговаривать с ним о ерунде, нашими голосами. Об осмысленной ерунде или просто белый шум, не знаю, что будет лучше, не хватает знания теории. Помогут редкие языки (ненадолго) и искажающие статистику ошибки. Труднее с камерами наблюдения, которые будут стоять везде, но принцип такой же. Одноразовые маски, походки, отпечатки пальцев, радужки, волосы произвольных, незнакомых людей - черный рынок анализов. Черный рынок одноразовости, TOR одноразовых айдентитей.
"Настроение у него совсем испортилось."
UPD: Но, конечно, гораздо больше волнуют сейчас думающую часть населения не это, а однополые браки, президент Трамп и чей же Крым. Ну, или чья же Храмовая гора.
А людей, которые будут требовать законов, охраняющих право на личную тайну, будут шельмовать одновременно как либерастов и как ретроградов-ультраконсерваторов. (Я слышал, что в Канаде есть партия прогрессивных консерваторов, но это другое.) Их будут подавать как бессмысленных фриков и как агрессивную секту.
А законы эти, я так думаю с оптимизмом, будут все-таки приняты. Но, как это водится на нашей планете, после многих ошибок и страданий миллионов.
До сих пор можно было позволять себе надеяться, что миру нет дела до маленького тебя. Прятаться в статистике. Это было все труднее. Лет 80 назад уже мало у кого получалось, но еще много у кого получалось. Теперь у мира появляются мощности, достаточные, чтобы не упускать из внимания никого, даже самого маленького тебя. Знание о тебе всего-всего начинает стоить достаточно дешево. И оно начинает работать. Приносить прибыль. Затраты на наблюдение, сбор данных и их анализ, настолько малы, что выгода неизбежна.
Это меняет жизнь качественно. Сельскохозяйственная революция и переход к оседлой жизни примерно сравнимы с этим по влиянию на человеческую жизнь. Теперь ты не просто выходишь на улицу и все, кому интересно, на тебя смотрят. Теперь ты живешь посреди площади, посреди стадиона, и на тебя смотрят непрерывно, на случай, если вдруг произойдет что-нибудь, социально или экономически интересное.
Но их выгода меня волнует мало, меня волнуют мои проигрыши.
Где можно потерять? Про китайский эксперимент с социальным кредитом знают все. Необязательно доходить до такой оптимизации, хотя почему нет? Кругом польза, и очень просто делается. Но можно и без китайских сказок, без политики - чистый бизнес, ничего личного. Камера сняла тебя курящим, распознала твое лицо, послала данные в твою страховую компанию, у тебя поднялась страховая премия. Не обязательно делать что-нибудь протестное, антисоциальное или асоциальное. Достаточно просто существовать. Сходи пять раз подряд в один и тот же магазин, и тебе автоматически поднимут в нем цены. И подарят шоколадку, чтобы тебе было приятно и дальше к ним ходить.
Поэтому, чтобы согнуть баланс в свою пользу, жизненно важно будет обманывать AI. Пока еще у нас есть определенная анонимность, но ее будет становиться все меньше и меньше. Сделать это можно генераторами шума. Поскольку все телефонные переговоры прослушиваются и анализируются, понадобится написать робота, который будет звонить по телефону другому роботу и разговаривать с ним о ерунде, нашими голосами. Об осмысленной ерунде или просто белый шум, не знаю, что будет лучше, не хватает знания теории. Помогут редкие языки (ненадолго) и искажающие статистику ошибки. Труднее с камерами наблюдения, которые будут стоять везде, но принцип такой же. Одноразовые маски, походки, отпечатки пальцев, радужки, волосы произвольных, незнакомых людей - черный рынок анализов. Черный рынок одноразовости, TOR одноразовых айдентитей.
"Настроение у него совсем испортилось."
UPD: Но, конечно, гораздо больше волнуют сейчас думающую часть населения не это, а однополые браки, президент Трамп и чей же Крым. Ну, или чья же Храмовая гора.
А людей, которые будут требовать законов, охраняющих право на личную тайну, будут шельмовать одновременно как либерастов и как ретроградов-ультраконсерваторов. (Я слышал, что в Канаде есть партия прогрессивных консерваторов, но это другое.) Их будут подавать как бессмысленных фриков и как агрессивную секту.
А законы эти, я так думаю с оптимизмом, будут все-таки приняты. Но, как это водится на нашей планете, после многих ошибок и страданий миллионов.