La mayoría de las empresas dan un paso demasiado tarde
Cuando las empresas adoptan la IA, casi siempre preguntan primero: ¿Para qué usamos la IA y cuánto control necesitamos? Sin embargo, ambas preguntas presuponen algo que generalmente permanece tácito: según qué principios esta empresa toma decisiones, utiliza datos, distribuye responsabilidades y ejerce poder. Sin una respuesta consciente, cualquier estrategia de IA sigue siendo arbitraria y cualquier control infundado.
Un ejemplo hace visible la diferencia
Tome una empresa que quiera introducir una herramienta de preselección de aplicaciones de IA. La cuestión estratégica es: ¿Vale la pena? La pregunta de control es la siguiente: ¿Qué pruebas, qué documentación, qué aprobación necesitamos?
Ambas preguntas presuponen que ya se ha aclarado si una IA en esta empresa puede incluso participar en la decisión de quién está invitado, o si solo puede funcionar mientras una persona toma la decisión real. Esta aclaración se refiere a cómo la empresa entiende la responsabilidad. En el mejor de los casos, la respuesta ha existido durante mucho tiempo, sobre todo en la cultura corporativa, los modelos de liderazgo y los acuerdos informales, pero rara vez se registra como un marco explícito de toma de decisiones.
Los principios deben ser concretos
Muchas empresas confunden este nivel de principios con un conjunto general de valores, como la equidad, la transparencia, la responsabilidad, que es bien intencionado, pero en la práctica sigue siendo demasiado abstracto para apoyar una decisión concreta.
Los principios efectivos son específicos del negocio y responden preguntas muy específicas:
¿Qué propósito debe tener la IA en esta empresa para justificar su uso?
¿Qué decisiones siguen siendo fundamentalmente responsables humanamente, independientemente de lo bien que funcione un sistema?
¿Qué datos pueden utilizarse para qué y cuáles expresamente no?
¿Qué efectos sobre los clientes, empleados o terceros son inaceptables, incluso si fueran económicamente atractivos?
¿Qué hay que hacer transparente y a quién?
¿Quién es responsable si algo sale mal, y cómo la empresa sigue siendo capaz de actuar?
Estas preguntas necesitan una decisión empresarial consciente, preferiblemente antes de que la presión sea creada por un proyecto concreto.
Cómo afecta esto a la estrategia y el control
Una vez que estos principios se formulan explícitamente, todo lo que sigue cambia. La estrategia de IA se deriva de lo que la compañía ya ha decidido, en lugar de provenir solo del potencial tecnológico. Controles ? Las pruebas, la documentación, las liberaciones y el seguimiento de ? se convierten en la consecuencia lógica de un principio ya aclarado.
En el ejemplo de aplicación de arriba, una empresa que ha establecido la responsabilidad humana última como un principio ni siquiera consideraría un sistema autónomo decisivo. Se opta por una herramienta de apoyo desde el principio. Los controles posteriores solo se refieren a la cuestión de qué tan bien funciona realmente este apoyo.
La diferencia está en el orden
En la práctica normal, la gobernanza se construye posteriormente en torno a una estrategia que ya se ha adoptado. Este orden hace que el gobierno sea una expresión de lo que una empresa quiere ser de todos modos.
conclusión
La gobernanza de la IA comienza con los principios por los cuales una organización delega decisiones, usa datos, asigna responsabilidad y responsabiliza una vez que la IA se convierte en parte de sus procesos. A su vez, la estrategia y el control siguen a ? y no al revés.
Aquí es exactamente donde comenzamos en 2fink, por ejemplo, en la comprobación rápida de la gobernanza como inicio rápido o en el laboratorio de gobernanza digital de AI &, cuando se trata del trabajo en profundidad sobre principios concretos y casos de uso.
Español