Она похожа на попугайчика, который на входе получает «что делает собачка», а на выходе генерирует «гав-гав». При этом, если спросить попугайчика, что такое собака, у попугайчика случится разрыв шаблона, поскольку концепт слов и их значений у него отсутствует.

A.C.S., могу подтвердить что  GPT не понимает текст определений Верховного Суда например. Поскольку они написаны диким канцеляритом, что допускает дикая вариативность русского языка.

С другой стороны в области больших объемов тестовых данных точно будет (уже есть) прорыв. Например медицина состоит из бесконечных талмудов с описанием симптомов и схем лечения. Эта область знаний требует бесконечного запоминания, обучения и практики. Робот в сложных случаях может поставить диагноз точнее и быстрее человека. Однако, окончательное решение принимает врач с хорошим теоретическим образованием, чтобы понять верное ли предположение дал робот.