![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
ny_quantПосле самообладания поговорить не с кем. (старый анекдот)
Заголовок/эпиграф не только для привлечения внимания, но и интимно (хм) связан с темой поста. Пожалуй, мне не пересказать содержание заметки в НЙ Таймс в одном параграфе лучше, чем сделали это они сами:
A.I.-generated content is becoming harder to detect. As A.I. companies trawl the web for new data to train their upgrades, it is more likely that they will ingest A.I.-generated content. What would it look like if a model is trained on its own output? To find out, we showed handwritten numbers to an A.I. and asked it to mimic those digits. Then we fed the result back into the system, over and over again.
После 20 итераций выглядело вот так:
А после 30 итераций вот так:
Эти картинки иллюстрируют общий результат: in a paper published last month in the journal Nature, a group of researchers in Britain and Canada showed how this process results in a narrower range of A.I. output over time — an early stage of what they called “model collapse.”
На первый взгляд выглядит так как будто они там доказывают вариант теоремы о неподвижной точке. Но разбираться лень и особенно незачем.
В реальности, конечно, модели будут обучать на смеси настоящих и квази-данных, так что не всё так сумрачно вблизи. Тем не менее, опасение, что вес A.I.-generated content будет только расти кажется обоснованным. К чему это может привести - непонятно. Интересно было бы заслушать мнения специалистов, e.g.![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif)
misha_b.
Заголовок/эпиграф не только для привлечения внимания, но и интимно (хм) связан с темой поста. Пожалуй, мне не пересказать содержание заметки в НЙ Таймс в одном параграфе лучше, чем сделали это они сами:
A.I.-generated content is becoming harder to detect. As A.I. companies trawl the web for new data to train their upgrades, it is more likely that they will ingest A.I.-generated content. What would it look like if a model is trained on its own output? To find out, we showed handwritten numbers to an A.I. and asked it to mimic those digits. Then we fed the result back into the system, over and over again.
После 20 итераций выглядело вот так:
А после 30 итераций вот так:
Эти картинки иллюстрируют общий результат: in a paper published last month in the journal Nature, a group of researchers in Britain and Canada showed how this process results in a narrower range of A.I. output over time — an early stage of what they called “model collapse.”
На первый взгляд выглядит так как будто они там доказывают вариант теоремы о неподвижной точке. Но разбираться лень и особенно незачем.
В реальности, конечно, модели будут обучать на смеси настоящих и квази-данных, так что не всё так сумрачно вблизи. Тем не менее, опасение, что вес A.I.-generated content будет только расти кажется обоснованным. К чему это может привести - непонятно. Интересно было бы заслушать мнения специалистов, e.g.
misha_b.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2024-12-24 08:33 pm (UTC)no subject
Date: 2024-12-24 08:51 pm (UTC)no subject
Date: 2024-12-24 09:18 pm (UTC)no subject
Date: 2024-12-24 08:55 pm (UTC)Игрушка здесь: https://theyseeyourphotos.com/
no subject
Date: 2024-12-24 09:24 pm (UTC)Ютубовский вообще ничего не понисал, что на картинке
no subject
Date: 2024-12-24 10:03 pm (UTC)no subject
Date: 2024-12-24 10:17 pm (UTC)Cпасибо за наводку, теперь я знаю, что наш проект сократили не просто потому, что перевели за границу и в Техас.
no subject
Date: 2024-12-24 10:40 pm (UTC)no subject
Date: 2024-12-25 01:18 am (UTC)Скорее всего, гугловский ИИ-проект просто спустил в ютуб свою наработку. И с картинками произошло, видимо, то же самое: пока ютубовцы ковырялись ни шатко, ни валко со своими идеями, «ИИнтеллектовцы» допилили глаза своему ИИ и вывалили на ютубовских.
no subject
Date: 2024-12-25 02:18 am (UTC)no subject
Date: 2024-12-25 02:47 am (UTC)no subject
Date: 2024-12-24 11:35 pm (UTC)Если я еду в машине и мне приходит текстовое сообщение с фотографией, то телефон довольно аккуратно описывает, что там изображено. Следующим шагом будет, я думаю, facial recognition.
no subject
Date: 2024-12-24 11:46 pm (UTC)Мне машина зачитывает тексты, но фото не описывает.
no subject
Date: 2024-12-25 12:50 am (UTC)Знает, потому что подключен к машине через Apple Car Play.
no subject
Date: 2024-12-25 02:19 am (UTC)no subject
Date: 2024-12-25 03:28 am (UTC)Это сарказм? У вас в машине разве не так?
no subject
Date: 2024-12-25 03:52 am (UTC)Нет и нет. Машина говорит что жена говорит ... и зачитывает название файла, например image0001. А еще Elon Mask называется. Правда у нас андроиды.
no subject
Date: 2024-12-25 05:12 am (UTC)no subject
Date: 2024-12-25 12:50 am (UTC)no subject
Date: 2024-12-25 12:51 am (UTC)Айфон 14 про
no subject
Date: 2024-12-25 01:03 am (UTC)Еще в 23 году оценка визуала была почти всегда мимо.
no subject
Date: 2024-12-25 01:06 am (UTC)Да, эта фича в этом году появилась после очередного обновления.
no subject
Date: 2024-12-25 01:21 am (UTC)Мы тогда еще обрадовались — работа облегчилась, хех.
no subject
Date: 2024-12-26 03:57 am (UTC)Modern models are fantastic in analyzing images, try chatGPT app, for example. True, a few years ago it did not work well at all, but in the last couple of years everything has changed.
no subject
Date: 2024-12-26 04:18 am (UTC)no subject
Date: 2024-12-26 03:55 am (UTC)They have been using data produced by larger models to train smaller models very successfully in fact, e.g., https://arxiv.org/abs/2306.11644 .