Lee el anuncio original, entiende para qué sirve y prueba un ejercicio propio de Al-Bayan. Cada noticia conserva la fecha de su anuncio.
FormaciónOpenAI
Propuesta de formación: vigilar agentes por capas y conservar una parada humana
OpenAI publicó el 29 de octubre una descripción de su sistema interno para detectar comportamientos no autorizados en modelos avanzados. Combina filtros iniciales, revisión mediante modelos, agentes investigadores, datos técnicos externos a la conversación y respuesta humana. La empresa explica que amplió la cobertura después de incidentes y que una versión adaptada supervisa determinados usos externos con herramientas. También reconoce límites: existen falsas alarmas, la cobertura varía según el producto y las solicitudes de Chat Completions no forman parte de ese sistema.
Cómo aprovecharlo · prueba el ejercicio
La enseñanza para Al-Bayan es que un agente no debe depender de una sola barrera. Un flujo serio combina permisos mínimos, registro de acciones, revisión de señales, capacidad de pausar el trabajo y una persona responsable de decidir. No hemos instalado ni probado el sistema descrito por OpenAI, y su existencia no garantiza que todas las acciones erróneas se detecten o se detengan.
Ejercicio Al-Bayan
Actividad original pendiente y aún no incorporada al curso: diseña un agente ficticio que actualiza una página educativa. Define cuatro capas: límite de permisos, registro de cada acción, alerta por comportamiento extraño y parada con revisión humana. Simula un intento de publicar sin fuente y explica qué capa debería detectarlo, quién decide y cómo se evita repetir la acción. No conectes ni modifiques una web real.
Propuesta de formación: revisar un agente con los cinco valores del Model Spec actualizado
OpenAI actualizó el 29 de octubre su descripción pública del comportamiento que busca en sus modelos. La reorganiza alrededor de cinco valores: fidelidad a la intención humana, reducción del daño, honestidad y transparencia, autonomía de las personas y cuidado. También añade orientación sobre contexto, supervisión y capacidad de actuar, y retira buena parte de las reglas detalladas de estilo. OpenAI aclara que el documento expresa un comportamiento deseado y que sus modelos aún no lo reflejan por completo.
Cómo aprovecharlo · prueba el ejercicio
Para Al-Bayan, estos valores pueden convertirse en una revisión antes de que un agente publique o modifique algo: comprobar la intención real, los efectos previsibles, la evidencia y las dudas, el control que conserva la persona y el contexto de quienes pueden verse afectados. La actualización no anuncia una función nueva, no cambia por sí sola nuestro plan y no garantiza que cualquier respuesta cumpla esos criterios.
Ejercicio Al-Bayan
Actividad original pendiente y aún no incorporada al curso: imagina que un agente quiere publicar una noticia bilingüe con una fuente incompleta. Evalúa su decisión en cinco filas, una por valor, y escribe qué debe comprobar, qué incertidumbre debe comunicar y en qué punto debe detenerse. Termina con una decisión razonada: publicar, conservar como borrador o descartar.
ElevenLabs y adELA ofrecen preservación de voz gratuita a personas con ELA en España
ElevenLabs anunció el 28 de octubre una colaboración con la Asociación Española de Esclerosis Lateral Amiotrófica, adELA. Las personas elegibles diagnosticadas con ELA en España pueden solicitar acceso mediante la asociación para crear una versión digital de su voz. Si el habla aún no ha cambiado de forma importante, pueden grabar nuevas muestras; si ya ha cambiado, pueden aportar grabaciones antiguas. Es la primera iniciativa española del programa de impacto de ElevenLabs y no supone acceso gratuito general para cualquier usuario ni fuera de España.
Cómo aprovecharlo · prueba el ejercicio
La utilidad es asistencial y depende del consentimiento de la persona. Antes de preservar una voz conviene aclarar quién puede utilizarla, para qué mensajes, cómo se protegen las grabaciones, cómo se retira el permiso y qué contacto de confianza ayuda a gestionar el acceso. Las personas interesadas deben consultar directamente a adELA sobre requisitos y procedimiento; esta entrada no ofrece consejo médico.
Ejercicio Al-Bayan
Propuesta original pendiente y aún no incorporada al curso: redacta una lista ética para un caso ficticio de preservación de voz con seis apartados: consentimiento, finalidad, personas autorizadas, almacenamiento, retirada del permiso y revisión de cada mensaje. Añade dos usos que deben prohibirse sin autorización expresa. No grabes, clones ni subas la voz de ninguna persona.