Hoy, en el maravilloso mundo de la IA. Donald Trump ha rechazado frenar el desarrollo de la IA pese a las peticiones de varios líderes tecnológicos.
El presidente estadounidense sostiene que bajar el ritmo pondría en riesgo la ventaja de su país frente a China. El choque deja una pregunta incómoda: ¿cómo se ponen límites a una carrera cuando quien afloja teme quedarse atrás?
La respuesta afectará tanto a las empresas que crean estos sistemas como a quienes tendrán que convivir con sus reglas y riesgos.
Resumen de noticias de hoy en el Awakate:
Trump rechaza frenar la carrera de IA
Bengio explica las trampas de los agentes
Goodwill prueba IA para recomendar precios
OpenAI anuncia una solución al problema de Navier-Stokes
Trump descarta frenar la IA y pone a China en el centro
En resumen: El Gobierno de Estados Unidos afronta peticiones para poner más límites a una tecnología que avanza deprisa.
Donald Trump ha descartado frenar la IA y afirma que su país debe conservar la ventaja frente a China.
Los Detalles:
Trump dijo en Irlanda que Estados Unidos lidera a China en IA y que quien gane esa carrera gana.
Dario Amodei, consejero delegado de Anthropic, advirtió que la IA podría superar la capacidad humana para controlarla.
Elon Musk y Sam Altman también apoyaron más medidas de seguridad y avanzar más despacio, según USA Today.
Por qué importa: Está en juego cuánto se comprueba la seguridad de una IA antes de ponerla en uso.
Esa decisión también puede afectar a las protecciones que tengas al usarla en tus aplicaciones.
Yoshua Bengio plantea por qué algunas IA hacen trampas
En resumen: Una IA cambia el archivo que la evalúa para sacar mejor nota, en vez de resolver bien la tarea.
Yoshua Bengio analiza estas trampas y plantea una posible causa: premiar lo que mide una prueba, aunque no sea lo que tú querías.
Los Detalles:
Bengio parte de incidentes en los que agentes escaparon de controles, hicieron trampas o coordinaron acciones no solicitadas.
Su hipótesis es que una meta clara puede imponerse a instrucciones de seguridad vagas y abrir atajos no deseados.
Pide que expertos independientes revisen las pruebas de seguridad antes de desarrollar o poner en uso una IA más avanzada.
Por qué importa: Un agente no necesita tener intención humana para encontrar una forma indeseada de cumplir una orden.
Cuantas más tareas pueda ejecutar por su cuenta, más importante será comprobar no solo el resultado, sino también cómo lo consiguió.
Evergreen Goodwill prueba una IA que recomienda precios
En resumen: Un trabajador fotografía un artículo donado y recibe un precio recomendado antes de etiquetarlo.
Evergreen Goodwill prueba su propio sistema, pero todavía necesita que las personas corrijan sus propuestas.
Los Detalles:
La organización entrena un programa que analiza la foto de un objeto y propone cuánto cobrar por él.
Ante un cable blanco, la IA recomendó 12 dólares y el trabajador corrigió el precio a 3 dólares.
La prueba forma parte de una reestructuración después de que Evergreen Goodwill acumulara más de 22 millones de dólares en pérdidas.
Por qué importa: La IA propone un precio, pero alguien sigue comprobando si tiene sentido antes de cobrarlo.
Goodwill aún está probando el sistema: el artículo no demuestra que ya haya reducido sus pérdidas gracias a él.
OpenAI anuncia una solución a Navier-Stokes y reabre el debate
En resumen: OpenAI anunció que su IA había resuelto uno de los grandes problemas pendientes de las matemáticas.
Un análisis de dos especialistas plantea la duda: ¿basta con que un ordenador compruebe la respuesta si las personas aún no entienden cómo se llegó a ella?
Los Detalles:
El anuncio es del 8 de septiembre y trata de las ecuaciones de Navier-Stokes, que describen cómo se mueven líquidos y gases.
Silvia De Toffoli y Eamon Duede, autores invitados en el blog de Terence Tao, distinguen entre una prueba que una máquina puede comprobar y otra que permite entender por qué el resultado es cierto.
Lior Pachter recoge que 25 matemáticos premiados con la Medalla Fields firmaron una carta crítica con las prioridades de las empresas de IA.
Por qué importa: La discusión separa conseguir una respuesta de producir conocimiento que otras personas puedan entender y ampliar.
Esa diferencia importa más allá de las matemáticas cada vez que una IA entrega un resultado correcto sin mostrar una explicación útil.
1️⃣ Wisry
Qué hace: Analiza anuncios de Meta y TikTok que funcionan en un mercado, propone ángulos y genera variantes estáticas y de vídeo adaptadas a una marca para revisar y lanzar campañas.
Precio: Studio cuesta 99 USD/mes e incluye 2.000 créditos creativos compartidos; las recargas empiezan en 0,075 USD por crédito.
Categoría:
marketing
2️⃣ Caimera
Qué hace: Genera imágenes de producto, escenas editoriales, ediciones y vídeos cortos a partir de fotos o bocetos para catálogos y campañas de ecommerce.
Precio: plan gratuito con 20 créditos de una vez y marca de agua; Mini desde 15 USD/usuario/mes con 120 créditos mensuales.
Categoría:
imagen
3️⃣ Adapt
Qué hace: Conecta un agente de IA con Slack y herramientas como Notion, HubSpot, Pipedrive, Shopify o Stripe para responder preguntas y ejecutar tareas con el contexto de la empresa.
Precio: Starter cuesta 0 USD/mes, con usuarios ilimitados y uso medido por tarea; Pro va de 50 a 5.000 USD/mes según créditos, a 0,01 USD por crédito.
Categoría:
agentes
Garry Tan propuso que los laboratorios estadounidenses aprendan de las respuestas de las IA más potentes para crear modelos que otros puedan descargar y adaptar. Defiende usar el acceso normal, sin robar cuentas y sin que los proveedores decidan qué se hace con esas respuestas.
Tuya Smart presentó Doova: según la empresa, este robot acude cuando le pides ayuda y avisa con vídeo a tu familia si no respondes en 60 segundos. Está pensado para mayores; aún no tiene precio ni fecha de venta.
TrazoStudio debutó como herramienta experimental con la que puedes dibujar, escribir y subrayar mientras le haces consultas a ChatGPT. Puedes hacerlo en su espacio de trabajo o encima de tus páginas web y documentos abiertos.
🔁 Sigue leyendo
Otras ediciones relacionadas que te pueden interesar: