Philip Clark (@PJClark), sócio da Thrive Capital (@ThriveCapital), baseia-se em investimentos em OpenAI, Cursor, Physical Intelligence e sua experiência em semicondutores para apresentar três grandes conclusões sobre o estado do desenvolvimento da IA: 1.) Os avanços da IA não são lineares. Eles vêm em ondas arquitetônicas, assim como o silício. A analogia de Philip com semicondutores reformula o progresso da IA como uma sequência de mudanças de paradigma semelhantes a hardware. Quando um caminho atinge seu limite (núcleo único → multinúcleo; pré-treinamento → pós-treinamento), surge uma nova arquitetura. A IA não está evoluindo por ajustes incrementais... Está avançando por meio de reinvenções estruturais. 2.) Aprendizado por reforço é a próxima era arquitetônica (por enquanto) Philip enquadra o aprendizado por reforço como o sucessor do pós-treinamento: uma nova base, não uma otimização. Mas, o mais importante, ele enfatiza que não será a última. Assim como o hardware continuou saltando de single-core para multi-core e depois GPUs, a IA experimentará múltiplas ondas de paradigma, cada uma desbloqueando novos limites de desempenho. O aprendizado por reforço é simplesmente a próxima onda, não a última. 3.) O fosso do OpenAI não são os modelos... é sua capacidade de continuar descobrindo o próximo paradigma. Philip argumenta que a principal vantagem está na upstream do produto: toda grande inovação arquitetônica em grandes modelos teve origem na OpenAI. Sua defensabilidade vem de inventar repetidamente "a próxima coisa" enquanto simultaneamente operacionalizam a anterior... uma combinação rara em qualquer indústria, muito menos definida por saltos descontínuos. . . . Molly: "Um dos patrocinadores que orgulhosamente patrocina a Sourcery é @turingcom, então tive contato com o lado de pesquisa em IA — um acelerador de pesquisa em IA [entrevistamos CEOs, @jonsidd]. Eles ajudam com os modelos. E agora, eles estão notando uma mudança severa nos últimos um ou dois trimestres, passando de dados de imitação e dados sintéticos para aprendizado por reforço. Então estou curioso para saber como você está vendo isso do lado técnico e também do lado da aplicação?" Philip: "Acho que a IA é um pouco parecida com semicondutores, de certa forma — se me for permitido voltar aos semicondutores, o grande ponto de referência. No sentido de que há muitas, muitas ondas enquanto tentamos obter desempenho cada vez melhor. Sabe, com semicondutores, costumávamos ter semicondutores de núcleo único. Depois, basicamente não conseguimos extrair mais nada de um único núcleo, então passamos para multi-core. E então passamos para as GPUs. E acho que estamos vendo algo muito parecido com a IA, que começamos com o pré-treinamento na era GPT-1, GPT-2, GPT-3. Isso nos levou ao GPT-4. Depois começamos a usar muitas técnicas pós-treinamento para o ChatGPT — ajuste fino supervisionado, aprendizado por reforço com feedback humano. Foi isso que permitiu que os modelos fossem menos inteligências alienígenas e mais assistentes prestativos. E agora, enquanto muitos dos frutos mais acessíveis desses ganhos foram espremidos (mesmo que provavelmente ainda haja muito a ser feito), o aprendizado por reforço foi a próxima grande mudança de paradigma na IA e para onde muitos recursos estão indo. Acho que vão ter mais alguns desses. Isso não é o fim da história. Estamos basicamente descobrindo em tempo real como fazer a alquimia de transformar pedaços de metal em máquinas pensantes, por assim dizer, e isso é algo realmente difícil e desafiador. E acho que o mais empolgante sobre a OpenAI é que, sim, é uma das grandes empresas de produtos de hoje, mas também é um esforço de pesquisa. Essas não são coisas que ainda descobrimos ou resolvemos completamente. Então, acho que — para resumir — a vantagem competitiva final para os laboratórios, e para a OpenAI em particular, é conseguir constantemente descobrir qual será o próximo paradigma, mesmo enquanto você está produzindo e implementando o último paradigma. E acho que um dos maiores elogios que posso dar à OpenAI é que todos os grandes paradigmas em grandes modelos em nível macro que foram bem-sucedidos, até onde sei, vieram da OpenAI ou pelo menos se originaram na OpenAI. E isso mostra fortemente a capacidade deles de avançar na linha da pesquisa daqui para frente. Molly: "Uma das falas que sai do Cursor é: "O que vem depois do código?" O que vem depois do OpenAI? Essa é a pergunta para você."

Esse chapéu é lindo. Produtos de qualidade @DraftKings 🙏🏼

Philip Clark (@PJClark), sócio da Thrive Capital (@ThriveCapital), sobre os 5 principais insights por trás da estratégia de investimento fortemente concentrada da empresa: 1.) "Todas as vitórias devem realmente ser ótimas e todas as derrotas devem realmente doer, e devemos ter muita participação no jogo." 2.) "se vamos investir em alguém, essa pessoa realmente deve acreditar que o sucesso e fracasso da empresa realmente importa para nós como investidores" 3.) "Está muito claro que um pequeno número de empresas gera uma parte desproporcional do valor econômico e social no mundo... Acho que agora eu teria que conferir as estatísticas mais recentes, mas o Mag 7 e o NASDAQ, as 7 maiores ações, representam mais de 50% da capitalização de mercado do NASDAQ 4.) "Queremos investir no pequeno número de empresas que estão na cauda direita da distribuição na lei de potência que serão as mais importantes para o funcionamento do mundo ao longo do tempo" 5.) "Uma vez que pensamos que uma empresa tem esse calibre, concentrando o máximo de capital possível nela." . . . MO: "Peter Walker (@PeterJ_Walker) [Chefe de Insights no @cartainc] .. Recentemente compartilhei este gráfico [da @credistick] que mostrava Spray & Pray versus fundos altamente concentrados... Acontece que fundos altamente concentrados, normalmente cerca de 20 empresas por portfólio, superam o spray & pluck. Mas spray & pray parece bem bom [no geral] porque você tem muitas apostas em potencial. Então estou curioso com rumores e relatos — talvez não seja noticiado, talvez seja rumor de 25 bilhões de dólares em AUM, como vocês acham de onde concentrar suas apostas?" Philip: "Sim, acho que há dois aspectos que realmente importam para isso: primeiro, você precisa escolher uma estratégia que seja autêntica para como você quer operar como investidor... Meu sócio Kareem (@kareemszaki) costuma dizer que, matematicamente, provavelmente existem muitas formas de ganhar dinheiro como uma empresa de capital de risco – a questão é o que realmente parece alinhado com os fundadores com quem somos parceiros e acho que, acima de tudo, posso falar sobre por que a concentração achamos ser uma ótima estratégia financeira — e eu vou, mas o mais importante é que isso nos permite estar realmente profundamente alinhados com os fundadores com quem trabalhamos. Se você está trabalhando com um fundador de life's work, este é um portfólio de um para ele. E talvez tenhamos um portfólio de alguns... Mas realmente não deveríamos ter um portfólio de tantos assim, porque todas as vitórias devem ser ótimas, todas as derrotas devem doer de verdade, e devemos ter muita participação no jogo. E acho que a forma como gostamos de nos posicionar é que, se vamos investir em alguém, essa pessoa deve realmente acreditar que o sucesso e o fracasso da empresa realmente importam para nós como investidores Então, acho que há um aspecto emocional e ideológico nisso. Agora, também existe a realidade da lei do poder, que é que não preciso documentar isso para você, é muito claro que um pequeno número de empresas gera uma parte desproporcional do valor econômico e social no mundo Acho que agora eu teria que conferir as estatísticas mais recentes, mas a Mag 7 e a NASDAQ, as 7 maiores ações, representam mais de 50% da capitalização de mercado do NASDAQ E isso mostra que poucas empresas realmente são importantes E então nossa estratégia de concentração reflete essa realidade. Queremos investir no pequeno número de empresas que estão na cauda direita da distribuição na lei de potência que serão as mais importantes para o funcionamento do mundo ao longo do tempo E isso não quer dizer que não existam outras grandes empresas que possam nos dar dinheiro e investir com uma abordagem mais parecida com índice, mas você sabe, a forma como achamos que podemos entregar retornos diferenciados e correlacionados para nossos parceiros é investindo nas melhores empresas. E uma vez que pensamos que uma empresa tem esse estatuto, concentrando o máximo de capital possível nela." "MO: Camisa perfeita. Ok, vamos falar sobre OpenAI"