![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Прослушал лекцию об AI и наших новых разработках в этом направлении
О возможности обманывать AI при помощи генераторов шума. Все наши разговоры будут записываться и анализироваться невероятно точно: AI будет знать о нас все, гораздо больше, чем мы сами о себе знаем. На основании этих знаний будет расчитываться им вся жизнь вокруг нас. Как пример - страхование здоровья. Страховой компании, больничной кассе интересно минимизировать убытки. Они собирают данные: кто сколько болеет. Больше болеешь - выше премия. Это уже делается сейчас, но пока анонимно, группами по возрасту. Группы все более уточняются: по возрасту, по полу, по профессии, по уровню образования, по месту жительства... Скоро уточнится до предела, до одного человека, до меня.
До сих пор можно было позволять себе надеяться, что миру нет дела до маленького тебя. Прятаться в статистике. Это было все труднее. Лет 80 назад уже мало у кого получалось, но еще много у кого получалось. Теперь у мира появляются мощности, достаточные, чтобы не упускать из внимания никого, даже самого маленького тебя. Знание о тебе всего-всего начинает стоить достаточно дешево. И оно начинает работать. Приносить прибыль. Затраты на наблюдение, сбор данных и их анализ, настолько малы, что выгода неизбежна.
Это меняет жизнь качественно. Сельскохозяйственная революция и переход к оседлой жизни примерно сравнимы с этим по влиянию на человеческую жизнь. Теперь ты не просто выходишь на улицу и все, кому интересно, на тебя смотрят. Теперь ты живешь посреди площади, посреди стадиона, и на тебя смотрят непрерывно, на случай, если вдруг произойдет что-нибудь, социально или экономически интересное.
Но их выгода меня волнует мало, меня волнуют мои проигрыши.
Где можно потерять? Про китайский эксперимент с социальным кредитом знают все. Необязательно доходить до такой оптимизации, хотя почему нет? Кругом польза, и очень просто делается. Но можно и без китайских сказок, без политики - чистый бизнес, ничего личного. Камера сняла тебя курящим, распознала твое лицо, послала данные в твою страховую компанию, у тебя поднялась страховая премия. Не обязательно делать что-нибудь протестное, антисоциальное или асоциальное. Достаточно просто существовать. Сходи пять раз подряд в один и тот же магазин, и тебе автоматически поднимут в нем цены. И подарят шоколадку, чтобы тебе было приятно и дальше к ним ходить.
Поэтому, чтобы согнуть баланс в свою пользу, жизненно важно будет обманывать AI. Пока еще у нас есть определенная анонимность, но ее будет становиться все меньше и меньше. Сделать это можно генераторами шума. Поскольку все телефонные переговоры прослушиваются и анализируются, понадобится написать робота, который будет звонить по телефону другому роботу и разговаривать с ним о ерунде, нашими голосами. Об осмысленной ерунде или просто белый шум, не знаю, что будет лучше, не хватает знания теории. Помогут редкие языки (ненадолго) и искажающие статистику ошибки. Труднее с камерами наблюдения, которые будут стоять везде, но принцип такой же. Одноразовые маски, походки, отпечатки пальцев, радужки, волосы произвольных, незнакомых людей - черный рынок анализов. Черный рынок одноразовости, TOR одноразовых айдентитей.
"Настроение у него совсем испортилось."
UPD: Но, конечно, гораздо больше волнуют сейчас думающую часть населения не это, а однополые браки, президент Трамп и чей же Крым. Ну, или чья же Храмовая гора.
А людей, которые будут требовать законов, охраняющих право на личную тайну, будут шельмовать одновременно как либерастов и как ретроградов-ультраконсерваторов. (Я слышал, что в Канаде есть партия прогрессивных консерваторов, но это другое.) Их будут подавать как бессмысленных фриков и как агрессивную секту.
А законы эти, я так думаю с оптимизмом, будут все-таки приняты. Но, как это водится на нашей планете, после многих ошибок и страданий миллионов.
До сих пор можно было позволять себе надеяться, что миру нет дела до маленького тебя. Прятаться в статистике. Это было все труднее. Лет 80 назад уже мало у кого получалось, но еще много у кого получалось. Теперь у мира появляются мощности, достаточные, чтобы не упускать из внимания никого, даже самого маленького тебя. Знание о тебе всего-всего начинает стоить достаточно дешево. И оно начинает работать. Приносить прибыль. Затраты на наблюдение, сбор данных и их анализ, настолько малы, что выгода неизбежна.
Это меняет жизнь качественно. Сельскохозяйственная революция и переход к оседлой жизни примерно сравнимы с этим по влиянию на человеческую жизнь. Теперь ты не просто выходишь на улицу и все, кому интересно, на тебя смотрят. Теперь ты живешь посреди площади, посреди стадиона, и на тебя смотрят непрерывно, на случай, если вдруг произойдет что-нибудь, социально или экономически интересное.
Но их выгода меня волнует мало, меня волнуют мои проигрыши.
Где можно потерять? Про китайский эксперимент с социальным кредитом знают все. Необязательно доходить до такой оптимизации, хотя почему нет? Кругом польза, и очень просто делается. Но можно и без китайских сказок, без политики - чистый бизнес, ничего личного. Камера сняла тебя курящим, распознала твое лицо, послала данные в твою страховую компанию, у тебя поднялась страховая премия. Не обязательно делать что-нибудь протестное, антисоциальное или асоциальное. Достаточно просто существовать. Сходи пять раз подряд в один и тот же магазин, и тебе автоматически поднимут в нем цены. И подарят шоколадку, чтобы тебе было приятно и дальше к ним ходить.
Поэтому, чтобы согнуть баланс в свою пользу, жизненно важно будет обманывать AI. Пока еще у нас есть определенная анонимность, но ее будет становиться все меньше и меньше. Сделать это можно генераторами шума. Поскольку все телефонные переговоры прослушиваются и анализируются, понадобится написать робота, который будет звонить по телефону другому роботу и разговаривать с ним о ерунде, нашими голосами. Об осмысленной ерунде или просто белый шум, не знаю, что будет лучше, не хватает знания теории. Помогут редкие языки (ненадолго) и искажающие статистику ошибки. Труднее с камерами наблюдения, которые будут стоять везде, но принцип такой же. Одноразовые маски, походки, отпечатки пальцев, радужки, волосы произвольных, незнакомых людей - черный рынок анализов. Черный рынок одноразовости, TOR одноразовых айдентитей.
"Настроение у него совсем испортилось."
UPD: Но, конечно, гораздо больше волнуют сейчас думающую часть населения не это, а однополые браки, президент Трамп и чей же Крым. Ну, или чья же Храмовая гора.
А людей, которые будут требовать законов, охраняющих право на личную тайну, будут шельмовать одновременно как либерастов и как ретроградов-ультраконсерваторов. (Я слышал, что в Канаде есть партия прогрессивных консерваторов, но это другое.) Их будут подавать как бессмысленных фриков и как агрессивную секту.
А законы эти, я так думаю с оптимизмом, будут все-таки приняты. Но, как это водится на нашей планете, после многих ошибок и страданий миллионов.
no subject
Ладно, по тезисам:
Во-первых, АИ - бред. Никакой АИ нет и не будет, ибо невозможно в принципе.
Во-вторых, деление людей на "маленького тебя" и неких "немаленьких" других это хуже, чем добровольное рабство по бланку.
В-третьих, что касается слежки, её удешевления, и вреда для подопытных объектов, тут проблема похуже.
Слежка подразумевает, помимо прочего, получение паролей, отпечатков, вообще аутентификации, то есть даёт возможность не только обчистить счета и сбережения, но и заключить от твоего имени сделки на приобретение или отчуждение или загнать в кредиты итд.
Помимо подобных "одноразовых" акций, перманентная слежка позволяет получить фото-видео-аудио компромат, которым объект затем может шантажироваться, принуждён постоянно платить, быть объектом травли и массы прочих проблем, вплоть до принуждения к совершению преступлений, не говоря уже об уголовного преследования за то, что не совершал.
Причём ссылка на то, что слежка ведётся только определёнными структурами, настолько глупа насколько преступна. И не только по причине возможной преступности в самих структурах, не только из-за возможности сбора данных преступными группами помимо "авторизированных", но и невозможности исключения утечек или краж данных у самих "авторизированных" третьими сторонами поскольку "авторизированные" структуры не могут 100% гарантировать невозможность утечек собранных и собираемых данных.
"Спасения" от этого нет. Население это не понимает. Не способно осмыслить опасность. На весь инет только несколько сообразивших.
На посты об этом ноль реакции, просто поголовное отупение.
Так что, оставь надежду...
УПД: Что касается записи звука - это уже прошлый век, теперь техника посерьёзней: Главная угроза человечеству в 21 веке
no subject
no subject
no subject
К тому же, факты и выводы это весьма разные вещи.
no subject
Хорошо, дам наводку, речь о разнице между АИ и тем, что СМИ подсовывают под этим названием, используют "АИ" в качестве маркетингового бренда. Например, называют АИ ответы Сири или вычисление оптимального пути в навигаторе.
АИ, в его истинном смысле - т.е. искусственно созданный человеком объект, способный к свободной когнитивной деятельности, невозможен.
Машинный-алгоритмический путь это не АИ, ибо наличие алгоритма противоречит принципу свободного когнитивного процесса.
Биологический путь - "выращивать" мозговую ткань и затем ловить электроимпульсы с дальнейшей механизацией, тоже не искусственный интеллект, поскольку исходные клетки не созданы человеком.
Скажем так, приближаться к АИ возможно, достичь нет.
Ну а для дикарей и поворот солнечных панелей вслед за солнцем уже божественные чудеса. Так что у маркетологов теперь появился просто бескрайний океан вариантов втюхивать наивной публике подобные темы под брендом "АИ".
no subject
Я не уверен, способен ли сам человек к свободной когнитивной деятельности, или же являет собой чрезмерно сложный для понимания себя собой автомат. Далее, я не уверен, что алгоритм противоречит принципу свободного когнитивного процесса -- это чье определение вообще, где это все разбирается? Я бы с интересом почитал.
И главное, я не уверен, что для описанных мною картин нужен настоящий ИИ. Вполне достаточно качественной алгоритмической обработки биг-даты. С наработками в этой области нас и знакомили, и выглядело это впечатляюще.
no subject
Если это надо объяснять, то лучше не объяснять. А жаль, я действительно надеялся, что вы хотя бы попробуете предложить иные варианты помимо моих двух (машинного и биологического).
Насчёт /это чье определение/
Чтобы включить свет не обязательно снабжать кнопку табличкой с цитатой какого-то авторитетного мыслителя.
/Настоящий АИ/
Именно об этом речь. Все эти темы, включая тотальную слежку в ванных, туалетах и постелях, вполне решаются примитивными алгоритмовыми методами примитивными субъектами, которые могут быть даже неграмотными, им достаточно красной лампочки и фото жертвы.
АИ это другое.