Alguns pontos que se destacaram nas discussões no corredor com @JeffDean sobre aprendizado contínuo: 1. RL/ajuste fino com as preferências do usuário na implantação pode ser perigoso, pois não podemos controlar o comportamento do agente. 2. Precisamos de novos paradigmas para o pré-treinamento que permitam a inclinação contínua agente. 3. O Google não está vendo a desaceleração da atual lei de escalonamento de pré-treinamento. Todos os pontos acima não são mutuamente exclusivos. Precisamos de mais discussões técnicas no terreno do que apenas passar por cima das manchetes.