From Zeke Hausfather

[ny_quant]

Grok is somewhat of an outlier in the LLM space as its developers have tried to manipulate its outputs to fit their ideological priors (with some unfortunate outcomes). But even Grok is surprisingly consistent at giving scientifically accurate answers to questions about topics like climate change, vaccines, evolution, GMOs, and others where the US public tends to be divided along ideological lines. While it remains to be seen how this will change – and if models themselves will fragment over time in their depiction or framing of of factual information – there is a case to be made that the transition toward using LLMs as sources of knowledge might end up inadvertently recentering scientific expertise and creating a more unified information landscape for society.

https://substack.com/app-link/post?publication_id=1593097&post_id=179572929

В общем, MechaHitler не обманет.

Comments

[mi-b.livejournal.com]

Grok is somewhat of an outlier in the LLM space as its developers have tried to manipulate its outputs to fit their ideological priors

да-да, а у всех остальных моделей никакие идеологические верования разработчиков на модели никак не влияли :)

[ny-quant.livejournal.com]

Да да, не все деревья большие:)

[spamsink.livejournal.com]

with some unfortunate кувшины

Это что такое?

[ny-quant.livejournal.com]

Outcomes. Не знаю в какой момент это случилась. Щас попробую исправить.

[ticklish-frog.livejournal.com]

Да, в итоге мы наша жизнь будет основана на результатах дистилляции супер-модели.

Но процесс пошел намного раньше — уже много лет население использует поиск гугла (бинг, и т.д.) для информации о текущей температуре за окном, идет ли в данный момент дождь, кто выиграл выборы, где купить еду и т.д. и использует это как аргумент истинности — как раньше использовали "это в книжке написано" .

[ny-quant.livejournal.com]

Лет 15 назад я увидел на улице девицу с плакатом о том что башни WTC повалило лучеаыи оружием наше правительство. Я ей машинально покрутил пальцем у виска. Так она ещё с полкилометра гналась за мной с воплями« "Google it!!!".

[nameless--one.livejournal.com]

Как показывает недавний опыт, scientific accuracy очень легко становится жертвой политической целесообразности.

Жаль что LLM не были доступны широкой публике в 2021 — мне было бы очень любопытно посмотреть их ответ на вопрос предотвращает ли ковидная вакцинация передачу инфекции.

[ny-quant.livejournal.com]

Особенно в отсутствие научным данных.

[nameless--one.livejournal.com]

Именно. Пытаюсь себе представить публичный источник информации, который на момент начала COVID vaccine rollout выдавал был следующую информацию:

- не имеется научных данных предотвращает ли вакцина распространение инфекции.
- не имеется научных данных уменьшает ли вакцина смертность от COVID.

И что-то мне кажется что такой источник долго бы не протянул.

[ny-quant.livejournal.com]

Положим, по смертности данные появились довольно быстро. И столь же быстро устарели из-за мутации.