Comentario de exalumna Oliva Cabeza
La Autoridad Monetaria de Singapur ( Monetary Authority of Singapore (MAS) acaba de presentar, junto con entidades financieras y empresas #FinTech, un marco para desarrollar salvaguardas para agentes autónomos de #IA en finanzas.
Puede parecer una noticia técnica.
Pero en realidad habla de algo mucho más grande:
La llegada de los #trabajadores digitales.
Un agente autónomo de IA no es un chatbot que responde preguntas.
Es un sistema capaz de recibir un objetivo, analizar información, utilizar herramientas y ejecutar acciones para conseguirlo.
Puede, por ejemplo:
Procesar operaciones financieras dentro de unos límites definidos.
Revisar documentos y preparar evaluaciones.
Generar información para ayudar a la relación con clientes.
Coordinar tareas entre diferentes sistemas.
Detectar situaciones y proponer o ejecutar acciones.
Miles de etc …
La diferencia fundamental es esta:
Antes, la tecnología esperaba una orden, ahora, algunos sistemas pueden interpretar un objetivo y actuar para alcanzarlo.
Y cuando un sistema digital empieza a actuar en nuestro nombre, aparece una nueva pregunta:
¿Quién marca el rumbo?
El documento presentado por Singapur, denominado SAFR (Safeguards for Agentic Finance at Runtime), no se centra solo en hacer agentes más capaces.
Se centra en conseguir que esos agentes sean seguros, fiables y controlables.
Para ello plantea algo parecido a una «brújula y unas reglas de navegación»:
🧭 Mandato
¿Cuál es exactamente la misión del agente?
🧭 Límites
¿Qué puede hacer y qué queda fuera de sus permisos?
🧭 Supervisión
¿Cuándo debe actuar solo y cuándo debe intervenir una persona?
🧭 Validación
¿La acción que va a ejecutar cumple las reglas definidas?
🧭 Trazabilidad
¿Podemos saber qué decidió, por qué lo hizo y qué ejecutó?
Porque un trabajador digital no necesita solo inteligencia.
Necesita dirección.
Un empleado humano tiene formación, responsabilidades, supervisión y una organización que responde por sus acciones.
Los agentes de IA necesitarán algo equivalente.
La gran evolución de la inteligencia artificial no será únicamente crear sistemas que sepan más. Será crear sistemas capaces de actuar con autonomía ….sin perder el norte 😉
#UB #Finanzas #BCE #ArtificialIntelligence #Technology #Innovation #DigitalTransformation #FutureOfWork #OA4tech
#Divulgacionfinanciera