Por qu\u00e9 la gobernanza comienza antes de la estrategia de IA<\/p>"},"content":{"rendered":"
Cuando las empresas adoptan la IA, casi siempre preguntan primero: \u00bfPara qu\u00e9 usamos la IA y cu\u00e1nto control necesitamos? Sin embargo, ambas preguntas presuponen algo que generalmente permanece t\u00e1cito: seg\u00fan qu\u00e9 principios esta empresa toma decisiones, utiliza datos, distribuye responsabilidades y ejerce poder. Sin una respuesta consciente, cualquier estrategia de IA sigue siendo arbitraria y cualquier control infundado.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t
Tome una empresa que quiera introducir una herramienta de preselecci\u00f3n de aplicaciones de IA. La cuesti\u00f3n estrat\u00e9gica es: \u00bfVale la pena? La pregunta de control es la siguiente: \u00bfQu\u00e9 pruebas, qu\u00e9 documentaci\u00f3n, qu\u00e9 aprobaci\u00f3n necesitamos?<\/p>
Ambas preguntas presuponen que ya se ha aclarado si una IA en esta empresa puede incluso participar en la decisi\u00f3n de qui\u00e9n est\u00e1 invitado, o si solo puede funcionar mientras una persona toma la decisi\u00f3n real. Esta aclaraci\u00f3n se refiere a c\u00f3mo la empresa entiende la responsabilidad. En el mejor de los casos, la respuesta ha existido durante mucho tiempo, sobre todo en la cultura corporativa, los modelos de liderazgo y los acuerdos informales, pero rara vez se registra como un marco expl\u00edcito de toma de decisiones.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t
Muchas empresas confunden este nivel de principios con un conjunto general de valores, como la equidad, la transparencia, la responsabilidad, que es bien intencionado, pero en la pr\u00e1ctica sigue siendo demasiado abstracto para apoyar una decisi\u00f3n concreta.<\/p>
Los principios efectivos son espec\u00edficos del negocio y responden preguntas muy espec\u00edficas:<\/p>
\u00bfQu\u00e9 prop\u00f3sito debe tener la IA en esta empresa para justificar su uso?<\/p><\/li>
\u00bfQu\u00e9 decisiones siguen siendo fundamentalmente responsables humanamente, independientemente de lo bien que funcione un sistema?<\/p><\/li>
\u00bfQu\u00e9 datos pueden utilizarse para qu\u00e9 y cu\u00e1les expresamente no?<\/p><\/li>
\u00bfQu\u00e9 efectos sobre los clientes, empleados o terceros son inaceptables, incluso si fueran econ\u00f3micamente atractivos?<\/p><\/li>
\u00bfQu\u00e9 hay que hacer transparente y a qui\u00e9n?<\/p><\/li>
\u00bfQui\u00e9n es responsable si algo sale mal, y c\u00f3mo la empresa sigue siendo capaz de actuar?<\/p><\/li><\/ul>
Estas preguntas necesitan una decisi\u00f3n empresarial consciente, preferiblemente antes de que la presi\u00f3n sea creada por un proyecto concreto.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t
Una vez que estos principios se formulan expl\u00edcitamente, todo lo que sigue cambia. La estrategia de IA se deriva de lo que la compa\u00f1\u00eda ya ha decidido, en lugar de provenir solo del potencial tecnol\u00f3gico. Controles ? Las pruebas, la documentaci\u00f3n, las liberaciones y el seguimiento de ? se convierten en la consecuencia l\u00f3gica de un principio ya aclarado.<\/p>
En el ejemplo de aplicaci\u00f3n de arriba, una empresa que ha establecido la responsabilidad humana \u00faltima como un principio ni siquiera considerar\u00eda un sistema aut\u00f3nomo decisivo. Se opta por una herramienta de apoyo desde el principio. Los controles posteriores solo se refieren a la cuesti\u00f3n de qu\u00e9 tan bien funciona realmente este apoyo.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t
En la pr\u00e1ctica normal, la gobernanza se construye posteriormente en torno a una estrategia que ya se ha adoptado. Este orden hace que el gobierno sea una expresi\u00f3n de lo que una empresa quiere ser de todos modos.<\/p>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t
La gobernanza de la IA comienza con los principios por los cuales una organizaci\u00f3n delega decisiones, usa datos, asigna responsabilidad y responsabiliza una vez que la IA se convierte en parte de sus procesos. A su vez, la estrategia y el control siguen a ? y no al rev\u00e9s.<\/p>
Aqu\u00ed es exactamente donde comenzamos en 2fink, por ejemplo, en la comprobaci\u00f3n r\u00e1pida de la gobernanza como inicio r\u00e1pido o en el laboratorio de gobernanza digital de AI &, cuando se trata del trabajo en profundidad sobre principios concretos y casos de uso.<\/p>