Academia

Percy Liang

Universidad de Stanford y Together AI

Por qué lo seguimos: Evaluación y modelos abiertos

Fichajes

No hay fichajes publicados.

Artículos

Artículo2026-10-22

Se descubrieron las leyes para mejorar el rendimiento utilizando datos sintéticos generados por inteligencia artificial

Rewriting Scaling Laws for Synthetic Data with Compute and Data Constraints

Percy Liang y 6 más

Qué: Al utilizar reescrituras sintéticas, donde los modelos de lenguaje reescriben documentos de lenguaje natural en diferentes estilos para el entrenamiento previo, se estudiaron las leyes para predecir la proporción óptima y el rendimiento bajo restricciones de cómputo y datos.
Resultado clave: A medida que aumenta el cómputo, la proporción óptima de datos sintéticos aumenta, y los modelos entrenados con datos sintéticos generados por modelos más grandes o del mismo tamaño mostraron un rendimiento superior en comparación con los modelos que utilizaron solo datos originales.
Por qué importa: Esto sugiere que los métodos de entrenamiento de IA que utilizan datos sintéticos son predecibles, lo que permite superar las limitaciones de datos y mejorar el rendimiento de manera eficiente.Resumen IA

Entrenamiento y escalado

Resumen completo Leer artículo ↗ PDF ↗

Artículo2026-10-04 · arXiv (Cornell University)

Midiendo con qué facilidad la IA genera futuras ideas de investigación

Priced Guidance: Can Language Models Generate Future Research Ideas?

Percy Liang y 2 más

Qué: Se propone un método para estimar indirectamente la probabilidad de que un modelo de lenguaje genere nuevas ideas de investigación sin pistas, utilizando la cantidad de información (costo de compresión) necesaria para revelar la respuesta correcta.
Resultado clave: Se evaluaron cinco modelos con las ideas centrales de 87 artículos recientes de aprendizaje profundo, y el costo de compresión mediano del mejor modelo individual fue de 69.9 bits. Esto es significativamente menor que la mediana de 5,712 bits de la herramienta de compresión general gzip.
Por qué importa: Esta investigación demuestra un nuevo marco de evaluación que puede calcular el límite inferior de la probabilidad de que un modelo genere ideas. Sin embargo, el resumen no aborda la productividad de la investigación ni los efectos en el mercado.Resumen IA

IA para la ciencia

Resumen completo Leer artículo ↗ PDF ↗

Artículo2026-09-10

Análisis del sobreajuste en modelos de Mezcla de Expertos al repetir datos de entrenamiento de IA

Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data

Percy Liang y 4 más

Qué: Se reveló que cuando se repiten los datos de entrenamiento de IA, la arquitectura de Mezcla de Expertos, ampliamente utilizada recientemente, degrada su rendimiento más rápido que los modelos convencionales.
Resultado clave: Al repetir datos, los modelos de Mezcla de Expertos se sobreajustan fácilmente y, aunque las técnicas de regulación existentes pueden mitigarlo parcialmente, no alcanzan el rendimiento logrado al entrenar con datos únicos.
Por qué importa: Esto demuestra la necesidad de establecer estrategias de entrenamiento que consideren las características de cada arquitectura de modelo de IA en situaciones donde el aprendizaje iterativo es necesario debido a la escasez de datos.Resumen IA

Entrenamiento y escalado

Resumen completo Leer artículo ↗ PDF ↗

Artículo2026-05-06 · arXiv.org

Desarrollo de una plataforma para evaluar los riesgos de seguridad de los agentes de IA

DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents

Percy Liang y 16 más

Qué: Se desarrolló una plataforma y herramientas de ataque automatizadas para evaluar los riesgos de seguridad de los agentes de IA en varios entornos del mundo real.
Resultado clave: Esto reveló patrones sistemáticos de vulnerabilidad en varios agentes de IA y proporcionó información sobre la seguridad.
Por qué importa: Puede utilizarse como datos de base útiles para desarrollar la próxima generación de agentes de IA seguros.Resumen IA

Agentes y programación Seguridad y regulación

Resumen completo Leer artículo ↗ PDF ↗

Esta página recopila artículos publicados, anuncios oficiales e informaciones de prensa solo con fines informativos. Los resúmenes los redacta una IA a partir del resumen del artículo y los revisa el editor; pueden diferir del original, así que consulte el artículo para lo importante. Nada de esto es una recomendación de compra o venta ni asesoramiento de inversión. Los cambios de puesto citan anuncios oficiales o prensa relevante; parte de las trayectorias proviene de Wikidata (CC0). Los resúmenes de esta página se tradujeron con IA a partir de la versión coreana revisada por el editor.