Swarm Inference cambia las reglas del juego para la industria de la IA. Para entender por qué, hay que empezar por cómo son los rendimientos para los constructores de proveedores de inferencia regulares (GPU en centros de datos). Ponte tu sombrero de inversor: -Ves el auge de la IA. Quieres involucrarte. Comprar GPU, colocarlas en algún lugar y alquilarlas es el núcleo de este modelo de negocio. - Comienzas a modelar, construyes tu PnL. Centros de datos, servidores, conectividad, etc. Este es su CAPEX y COGS. La línea superior se destaca solo para GPU de gama alta. La energía es cara. La gestión no es trivial. - Llegas a una conclusión rápida: los rendimientos son... áspero por decir lo menos. Si realizas este ejercicio, hay un TLDR simple: Contribuir a la economía de la IA a nivel de infraestructura solo funciona con escala, o algunos se conectan con energía / espacio. La infraestructura de inferencia se convierte en un producto básico y el rendimiento se ha comprimido. Sigo tratando de encontrar una manera de cortar y cortar esto, pero parece que simplemente no hay alfa aquí. Desde una perspectiva tecnológica, todo esto es consecuencia de la forma en que Inference ha funcionado históricamente en la actualidad. Necesita densidad de cómputo. Alto rendimiento del bus, alta VRAM, etc. La inferencia de enjambre cambia las reglas del juego porque la densidad de cómputo ya no es un requisito. El CAPEX y el COGS anteriores son una consecuencia de la necesidad de densidad de cómputo. Pero si no necesita densidad de cómputo, entonces no necesita centros de datos. Dicho de otra manera, los proveedores de infraestructura individuales no tienen que superar un obstáculo de escala para participar. Y si no necesita una escala mínima para participar, entonces tal vez incluso un hogar individual pueda contribuir a la IA con rendimientos que realmente tengan sentido. Es por eso que Swarm Inference cambia las reglas del juego. Es la innovación la que cambia dónde se puede encontrar alfa. Felicitaciones al equipo de Fortytwo por ejecutar un cambio de paradigma.

DAWN está buscando mentes creativas listas para asumir un desafío. 💻🎨✍️ ¡Tenemos un premio acumulado de $ 6,000 para varios proyectos en los que puede escribir, dibujar o crear contenido en su propio idioma! Échales un vistazo. 👇