Хроники ИИ

[ny_quant]

Жена попыталась снять $200 из АТМ, но получила отлуп. Я провел час на телефоне со службой поддержки, но никаких разъяснений кроме того что "our system marked this transaction suspicious" не получил. Не знают они почему. Кстати, вспомнил что совсем недавно malyj_gorgan доходчиво объяснил почему это может быть трудно.

Не, ну все же, какого черта?! Человек пришел за своими кровными деньгами, ввел правильный код, а все равно почему-то послан нафиг. А если бы такое произошло где-нибудь за границей или в какой-нибудь дыре, где без нала никак?

Через час туда же приехал со своей карточкой я и без проблем снял деньги с того же счета.

Comments

[malyj-gorgan.livejournal.com]

Спасибо за рекламу :)
В качестве признанного эксперта вангую, что дальше будет только хуже. Потому что:
1. Системы все больше отходят от конкретных правил, где можно указать, в чем причина отказа. Потому что чем конкретнее правило, тем проще его обойти злоумышленнику.
2. Системы все хуже, потому что те, кто их пишет — малообразованные и не особо умные долбо*бы, а руководят процессом еще менее образованные и мотивированные особи. Не потому, что все стали дураками, а потому что потребность на порядок превышает количество хороших специалистов, а те, которые есть, вместо делать хороший продукт, заняты то онлайн трейдингом, то поиском работы поденежней.

[nefedor.livejournal.com]

Поддерживаю - у меня те же впечатления.

[http://users.livejournal.com/sorcerer_/]

Основная проблема, что у них нет нормального observability даже самой модели. Т.е. ошибка есть, это факт, но что с ней сделать неясно, т.к. нет вообще систем которые умеют ритрейнить эту инфу.
Либо переучиваем всю модель, что устареет примерно 1 сек после переучивания, либо вот так сосем.

[malyj-gorgan.livejournal.com]

Ну да. И даже если есть быстрая и надежная обратная связь, указывающая, где false positivie, а где false negative (хотя ну какая там надежность), то ретрейнить в продакшн'е в большинстве случаев нереально. Мало что технически сложно, так поддерживать баланс между эффективностью и нестабильностью задолбаешься.

[http://users.livejournal.com/sorcerer_/]

Ничо ничо, помощь спешит, мы тута такое напилим - живые позавидуют мертвым. )

[malyj-gorgan.livejournal.com]

Bring it on, мы со своей стороны живых с мертвыми переопределим так, что они не поймут, кто кому завидовать должен

[http://users.livejournal.com/sorcerer_/]

Не выйдет, т.к. observability будет следить за всеми действиями и трекать lineage ваших переопределений!

[freedom_of_sea.livejournal.com]

"а руководят процессом еще менее образованные и мотивированные особи. "

чтобы стать руководителем нужно наоборот быть более мотивированным

"Не потому, что все стали дураками, а потому что потребность на порядок превышает количество хороших специалистов,"

потому что руководители у них см выше

[malyj-gorgan.livejournal.com]

> чтобы стать руководителем нужно наоборот быть более мотивированным
Кто в чем мотивирован. Сейлз хочет спихнуть продукт кастомеру, а дальше хоть трава не расти, а продакт менеджмент среднего звена хочет строчку в резюме "spearheaded and oversaw introduction of reason codes to company's malicious agent detection product". Качество и осмысленность результата желают достичь либо в совсем стартапах с потенциалом, либо в корпорациях побольше с фантастически правильной организацией. Пишу "фантастически", потому что в реале такого не видел.

[e2pii1.livejournal.com]

> malyj_gorgan доходчиво объяснил почему это может быть трудно

потому что "deep neural network" натренировали, и она говорит: "это жулик, так у меня коэффициентики сложились" ?

[malyj-gorgan.livejournal.com]

И не только DNN, а и ensemble методы вроде random forest'а. Это техническая сторона, плюс давление всяких специалистов от UX, Sales, или Product менеджмента, которым плевать на техническую сторону, и вуаля.

[e2pii1.livejournal.com]

random forest наверно ещё кое-как можно расковырять и понять из-за каких факторов вышло такое решение. В DNN вроде никак (если я не упустил каких-то недавних прорывов...). А оно модное, суют повсюду.

[http://users.livejournal.com/sorcerer_/]

Все можно понять, никому не надо.
Сегодня DNN и прочий ML работают примерно как базы данных в 1950х - т.е. никак.
Представь что тебе нужно обслуживать SQL query но у тебя нет не только баз данных но и стандартов хранения и алгоритмов для квиринга.
Поэтому любая "модель" в продакшене, это как с нуля написанный PostgresSQL под 1 (одно) квири и с помощью динамического программирования. Самая мякотка, это что однажды запущенный в продакшен, такой бинарник нельзя оттуда изъять, надо хранить все лет 7 и как это менеждить - неясно, т.к. гитхаба тоже нет.

[igorla.livejournal.com]

В АТМ есть камера, может она тоже была задействована..

[ny-quant.livejournal.com]

Типа, не сумели опознать жену?

[igorla.livejournal.com]

Нашли схожесть с разыскиваемой мошеницей-рецидивисткой, потрошащей банкоматы 2 раза в день ;)
Нейронные сети - никто ведь точно не знает почему выдали такой результат,а не другой.

[neyasny-asfodel.livejournal.com]

обычно видеонаблюдение в таких случаях установлено именно за банкоматом (охрана банкомата как имущества), не за держателями карт )

хотя не исключено, что сам банкомат технически способен проводить идентификацию фактического пользователя не только при помощи авторизации (например, при вводе пин-кода на клавиатуре банкомата), но и при помощи сопоставления биометрии, ранее предоставленной банку держателем карты, с биометрией фактического пользователя, которую вмонтированное в банкомат оборудование собирает через "глазок" видеокамеры банкомата,

банк мог так отреагировать на попытку транзакции с использованием карты из-за самого помещения, в котором установлен банкомат (например, имеются сведения, что по данному адресу ранее совершены мошеннические транзакции), из-за несовершенства программы выявления подозрительных операций и т.п.,

недавно подобное произошло со мной: банк заблокировал транзакцию в банкомате, установленном в мелко-оптовом постоянно многолюдном супермаркете (Таиланд), это повторилось ещё один раз через несколько дней, а транзакции, совершённые в других местах (например, по адресу установки банкомата в помещениях — "допофисах" банка) прошли в обычном режиме

[olaff67.livejournal.com]

Было такое же с моей картой пару лет назад, тоже долго висел на телефоне с банком.
А вот недавняя поездка в Россию прошла на удивление без сучка и задоринки: в приложении банка отправил уведомление о датах пребывания в другой стране, и платил там кредиткой банка без проблем.

[ny-quant.livejournal.com]

У нас никогда не было никаких проблем с карточками, ни в одной стране.

[e2pii1.livejournal.com]

karial писала, что в бизнес поездке в Казахстан были проблемы: 1 раз сняла, а потом карту заблокировало.

Я когда в Москве был, в свои емейлы не смог войти: отвечают "какие-то русские хакеры к вам в емейл лезут, не пустим"

[ok-its-the-last.livejournal.com]

В Калифорнии на бензоколонках не работают российские карты, а в кассе работают. Такая вот загадка. Но это Америка с отсталой банковской системой, так что не удивительно.

[sydorov47.livejournal.com]

Звиздец.False Positive of some sort.

Отказ выдать деньги хозяину денег.
Вот с таким должны бороться всякие державные регуляторы в првую очередь.
А не требовать чтобы каждый чих сообщался налоговикам как хотят борцы за все хорошее против всего плохого.

[freedom_of_sea.livejournal.com]

"Человек пришел за своими кровными деньгами"

небось голосовал за Бидона, пусть теперь забудет про деньги, белый богач, скрывающийся от справедливых налогов.

[nameless--one.livejournal.com]

У меня была схожая неприятная ситуация.

Пытался снять деньги в ATM, машинка выплюнула карточку с сообщением "your transaction cannot be completed", а на счёте было отображено обычное снятие денег.

Долго бодался, но в конце концов вернули. Так есть какая-то система аудита, но она требует физического доступа к конкретному ATM - во всяком случае я так понял объяснения почему они не могут разобраться сразу.

[onmynav.livejournal.com]

Камера?

[scaredy-cat-333.livejournal.com]

Apple Card рекомендую. При подозрительной транзакции приходит СМС, на которую можно ответить тут же и повторить. Может и другие есть.

[ny-quant.livejournal.com]

На кредитки мне тоже приходит. Но вот на АТМ оказывается, что нет.