Суть больших языковых моделей заключается в принудительном построении самосогласованного значения на основе существующих входных данных. Галлюцинации (hallucination) можно рассматривать как естественное проявление и продолжение самосогласованности. Многие новые научные открытия делаются именно потому, что они наталкиваются на «ошибку» в природе, которая не может быть объяснена существующими теориями, и они не могут быть самосогласованными, поэтому они должны отказаться от старых теорий. Это в общих чертах объясняет, почему до сих пор ни одна большая языковая модель (с таким количеством данных) не смогла самостоятельно сделать новые научные открытия, потому что сама модель не обладает способностью судить о том, что правильно, а что нет.
Посмотреть Оригинал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Суть больших языковых моделей заключается в принудительном построении самосогласованного значения на основе существующих входных данных. Галлюцинации (hallucination) можно рассматривать как естественное проявление и продолжение самосогласованности. Многие новые научные открытия делаются именно потому, что они наталкиваются на «ошибку» в природе, которая не может быть объяснена существующими теориями, и они не могут быть самосогласованными, поэтому они должны отказаться от старых теорий. Это в общих чертах объясняет, почему до сих пор ни одна большая языковая модель (с таким количеством данных) не смогла самостоятельно сделать новые научные открытия, потому что сама модель не обладает способностью судить о том, что правильно, а что нет.