Apple skips Nvidia's GPUs for its AI models, uses thousands of Google TPUs instead
Apple ha revelado que sus funciones de Apple Intelligence fueron desarrolladas utilizando TPUs de Google en lugar de aceleradores de hardware de Nvidia. Esta elección estratégica destaca un cambio significativo en la dependencia de infraestructura por parte de las principales empresas tecnológicas, demostrando que el entrenamiento de IA de alto rendimiento puede lograrse mediante procesadores especializados alternativos. La revelación subraya la diversidad de recursos computacionales disponibles en el panorama actual de la IA. El proceso de desarrollo implicó clústeres distintos para los modelos del lado del servidor y los modelos en el dispositivo. Las enormes matrices TPUv4 entrenaron los modelos de lenguaje fundamentales para los servicios en línea, mientras que los clústeres TPUv5 optimizados facilitaron la creación de modelos más pequeños y eficientes para la ejecución local. Este enfoque dual garantiza un rendimiento sólido tanto en entornos basados en la nube como en contextos privados y sin conexión. Esta transparencia es altamente relevante para los debates sobre datos abiertos, ya que expone las fuentes de datos específicas, incluidos los rastreadores web y los conjuntos de datos con licencia, utilizados para entrenar estos sistemas. Al revelar la arquitectura técnica y el origen de los datos, Apple proporciona un caso de estudio sobre cómo la IA propietaria a gran escala interactúa con los ecosistemas de información pública. Esto invita a un escrutinio sobre la calidad de los datos y las prácticas de obtención dentro de la comunidad más amplia de datos abiertos.
Source: tomshardware.comPublished on 2024-07-31