![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
From Zeke Hausfather
Grok is somewhat of an outlier in the LLM space as its developers have tried to manipulate its outputs to fit their ideological priors (with some unfortunate outcomes). But even Grok is surprisingly consistent at giving scientifically accurate answers to questions about topics like climate change, vaccines, evolution, GMOs, and others where the US public tends to be divided along ideological lines. While it remains to be seen how this will change – and if models themselves will fragment over time in their depiction or framing of of factual information – there is a case to be made that the transition toward using LLMs as sources of knowledge might end up inadvertently recentering scientific expertise and creating a more unified information landscape for society.
https://substack.com/app-link/post?publication_id=1593097&post_id=179572929
В общем, MechaHitler не обманет.
no subject
Grok is somewhat of an outlier in the LLM space as its developers have tried to manipulate its outputs to fit their ideological priors
да-да, а у всех остальных моделей никакие идеологические верования разработчиков на модели никак не влияли :)
no subject
Да да, не все деревья большие:)
no subject
Это что такое?
no subject
Outcomes. Не знаю в какой момент это случилась. Щас попробую исправить.
no subject
Да, в итоге мы наша жизнь будет основана на результатах дистилляции супер-модели.
Но процесс пошел намного раньше — уже много лет население использует поиск гугла (бинг, и т.д.) для информации о текущей температуре за окном, идет ли в данный момент дождь, кто выиграл выборы, где купить еду и т.д. и использует это как аргумент истинности — как раньше использовали "это в книжке написано" .
no subject
Лет 15 назад я увидел на улице девицу с плакатом о том что башни WTC повалило лучеаыи оружием наше правительство. Я ей машинально покрутил пальцем у виска. Так она ещё с полкилометра гналась за мной с воплями« "Google it!!!".
no subject
Как показывает недавний опыт, scientific accuracy очень легко становится жертвой политической целесообразности.
Жаль что LLM не были доступны широкой публике в 2021 — мне было бы очень любопытно посмотреть их ответ на вопрос предотвращает ли ковидная вакцинация передачу инфекции.
no subject
Особенно в отсутствие научным данных.
no subject
- не имеется научных данных предотвращает ли вакцина распространение инфекции.
- не имеется научных данных уменьшает ли вакцина смертность от COVID.
И что-то мне кажется что такой источник долго бы не протянул.
no subject
Положим, по смертности данные появились довольно быстро. И столь же быстро устарели из-за мутации.