1 Introducción: inteligencia artificial y administración financiera en el sistema tributario italiano

La inteligencia artificial y sus usos se sitúan en el contexto más general de lo que, comúnmente, se llama la revolución digital, un tema que hoy está de actualidad y se debate no sólo en el ámbito jurídico.¹ Ciertamente, la digitalización impregna todos los aspectos de la vida individual y colectiva y está cambiando no sólo la esfera económica, sino también la esfera política y social con una rapidez e incisividad inesperadas. En definitiva, de un fenómeno exclusivamente económico, se ha convertido en el nuevo paradigma de toda la vida social, modificando comportamientos, dirigiendo elecciones, incluso influyendo en la forma de ser de los lugares tradicionales de socialidad (pensemos en el fenómeno de la economía colaborativa en las ciudades de arte).²

Probablemente sería más correcto hablar a este respecto de una “revolución algorítmica”.³ De hecho, el algoritmo es lo que distingue la nueva economía desmaterializada (la basada en el big data, su recopilación y su explotación), pero también la robotización de los procesos de producción tanto de bienes como de servicios. Es el algoritmo que da vida a la inteligencia artificial, determina su comportamiento inicial y permite, cuando es posible, su evolución siguiendo el aprendizaje autónomo. No sorprende, por tanto, que sea en torno a él que se esté desarrollando un cambio impetuoso en el comportamiento individual y social (de la interconexión constante a la virtualidad creciente de las relaciones), en la economía (en torno a las plataformas digitales y a los procesos proautomatizados, que conducen a para superar la centralidad de los bienes/servicios tradicionales como herramientas de creación de valor) y, en consecuencia, de la manera de concebir y garantizar el bienestar (pensemos en la expulsión del trabajo de trabajadores dotados de habilidades básicas, pero al mismo tiempo a la aparición de nuevas figuras profesionales sin una regulación adecuada). Todo ello, además, en un contexto de absoluta incertidumbre, ya que el algoritmo es en sí mismo incognoscible, creado por técnicos con las habilidades más esotéricas y amparado por rigurosas leyes privadas.⁴

Estamos, en definitiva, en el centro de un movimiento que afecta a toda la civilización contemporánea, en todos sus perfiles fundamentales, y que escapa sin embargo a las clasificaciones tradicionales y como tal está destinado a imponerse a las instituciones y a sus asociados sin que tenga la capacidad de controlarlas plenamente. se entiende su potencial y, sobre todo, se reconocen sus resultados. La era de la inteligencia artificial puede ser, por tanto, una edad de oro, como muchos afirman rotundamente, pero también corre el riesgo de transformarse, como sostienen los más pesimistas, en una época en la que pocas oligarquías tecnocráticas son capaces de dirigir las elecciones y la conducta de los Gobiernos y de los individuos. sin posibilidad alguna de control democrático. La reciente polémica en torno a la aplicación Chat GPT, con la suspensión de la intervención del Garante de Privacidad italiano,⁵ y el llamamiento lanzado por decenas de académicos y científicos para frenar la evolución de la robotización capaz, es la preocupación de cuestionar incluso algunos de los fundamentos. de nuestras sociedades⁶ atestigua dudas crecientes, incluso por parte de quienes inicialmente fueron sus promotores, hacia un progreso percibido como en gran medida liberalizado.

No es seguro que la evaluación de esta estructura, ahora inevitable, deba ser tan drástica. Parece posible que la evolución del fenómeno se oriente ahora hacia formas de desarrollo positivo, ahora hacia situaciones de compresión de derechos individuales y colectivos en función de las herramientas que se elijan para (intentar) gobernarlo. En este sentido, el derecho es el instrumento al que acudir para alcanzar este último objetivo. Sin embargo, a primera vista hay que reconocer que el saldo, hasta la fecha, es indudable que está perdido. Esto significa que, frente al rápido y generalizado progreso tecnológico, el derecho se ha quedado muy rezagado. O, mejor dicho, se ha quedado atrás la reflexión jurídica sobre él, sobre sus orígenes y sobre sus implicaciones, no sólo económicas sino también sociales. Un retraso que, aunque generalizado, se manifiesta especialmente claramente en Europa e Italia, mientras que en Estados Unidos una élite de juristas hace tiempo que empezó a abordar seriamente el problema.

Se tiene la impresión de que el mundo del Derecho -el legislador, pero también la categoría de los juristas- se ha visto conmocionado por la aparición de nuevos fenómenos que exigen una revisión -y no una mera actualización- de instituciones y enfoques interpretativos hoy consolidados y considerado patrimonio inmutable. Por lo tanto, para evitar que el nuevo mundo algorítmico imponga nuevas reglas, basadas en la práctica e influenciadas por intereses que no coinciden con el bienestar de toda la comunidad, es necesario que los juristas salgan de su zona de confort y se planteen seriamente la cuestión. de cómo devolver firmemente al marco legal fenómenos que hoy parecen tan extendidos como ingobernables.

Esta exigencia surge también, y no podría ser de otra manera, para el derecho tributario. Por un lado, la inteligencia artificial es una herramienta capaz de orientar tanto las elecciones del contribuyente como las estrategias de control de la Administración financiera, gracias al análisis muy rápido de una cantidad considerable de datos y precedentes, que no pueden ser igualmente llevado a cabo con medios exclusivamente humanos. Por otra parte, el alto tecnicismo de las normas tributarias, especialmente las relativas a los rendimientos empresariales,⁷ y su redacción en términos extremadamente analíticos, de modo que su aplicación sea casi automática,⁸ parecen permitir una aplicación más mecánica, capaz de llevarse a cabo mediante sistemas capaces de almacenar, cribar, cruzar y procesar datos en cantidades y con velocidades que superan cualquier capacidad humana.

Pensando en el caso italiano, hay muchas disposiciones fiscales que, implicando el análisis de un cierto número de elementos fácticos, bien podrían prestarse a una aplicación más eficiente recurriendo a sistemas inteligentes. Entre los casos en los que esto podría ocurrir con mayor frecuencia podemos mencionar el medidor de ingresos, los estudios sectoriales -luego reemplazados por los índices sintéticos de confiabilidad- y el análisis de comparabilidad dentro de la disciplina de precios de transferencia. Se trata, precisamente, de acontecimientos en los que juega un papel central la capacidad del operador para conectar y comparar situaciones y datos aparentemente autónomos, respecto de los cuales el algoritmo permitiría un aumento desorbitado tanto del número de elementos sujetos a análisis, como de la velocidad de tratamiento.⁹

El tema que ha recibido más atención hasta ahora por parte de la doctrina ha sido el de los métodos y límites dentro de los cuales los sistemas inteligentes pueden apoyar -o incluso reemplazar aunque sea sólo parcialmente- la actividad de la Administración financiera en el desempeño de sus actividades de control y consecuentes evaluación.¹⁰ En definitiva, nos preguntamos más sobre las posibilidades que ofrece la inteligencia artificial para combatir la evasión y la elusión fiscal y, por tanto, sobre los posibles perfiles de fricción entre los principios que guían la actividad de control y evaluación por parte de la Administración Financiera y la automaticidad que la rige. Sistemas tecnológicamente avanzados pueden garantizar con exclusión de cualquier intervención humana. Al mismo tiempo, el debate es especialmente vivo en lo que respecta a las consecuencias procesales del uso de la inteligencia artificial, tanto por la mayor necesidad de protección de los contribuyentes frente a las liquidaciones automatizadas, como incluso por la robotización, total o parcial. de la actividad de juzgar.¹¹

El objetivo de este análisis es esbozar el estado del arte de la disciplina prevista en el ordenamiento jurídico italiano en lo que respecta al uso de sistemas inteligentes por parte de la Administración financiera. Un tema ciertamente actual, teniendo en cuenta también las considerables inversiones en curso para mejorar la eficacia del control y la interceptación de las infracciones fiscales por parte de la Agencia Tributaria, y que, sin embargo, plantea numerosos interrogantes sobre la estabilidad del sistema desde el punto de vista de los derechos de los contribuyentes.

2 Uso de algoritmos en la fase de implementación de la relación

Como se verá ampliamente a continuación, el análisis del riesgo fiscal está en el centro de la evolución de técnicas basadas en el aprendizaje automático con el fin de canalizar la actividad administrativa hacia vías más eficientes y efectivas en la lucha contra el fenómeno de la evasión fiscal.

Pero antes de examinar este tema, no se puede dejar de señalar cómo el enorme caudal de información de que dispone la Administración financiera italiana se presta a ser explotado en la actividad preventiva de simplificación de las obligaciones de los contribuyentes, así como en la posterior basada en la llamado controles automatizados.

3 Algoritmos con función predictiva: el acuerdo preventivo

Hasta ahora hemos tenido la oportunidad de abordar el uso de algoritmos según un enfoque determinista. La aplicación de un análisis probabilístico se adapta perfectamente a la disciplina del convenio bienal con acreedores.³¹

Se trata de una forma consensuada para la definición anticipada de las rentas producidas en el ejercicio de la actividad empresarial y en el ejercicio de las artes y profesiones para efectos del Impuesto sobre la Renta, así como del valor de la producción neta para efectos del IRAP en relación con dos períodos de vigencia actual y el siguiente. Es consensual precisamente porque el quantum deber está determinado por la intersección entre la propuesta de la Administración Financiera y la aceptación del contribuyente.

Lo que aquí es de mayor interés es que el uso de algoritmos es fundamental para la recopilación de datos y su procesamiento con miras a identificar la propuesta que se presentará al contribuyente. En este contexto, se trata de un uso con función predictiva, ya que el software debería ser adecuado para predecir cuál será el importe de los ingresos de un determinado contribuyente durante un período de dos años. Además de las dudas sobre la legitimidad constitucional, los académicos han mostrado preocupaciones sobre las nebulosidades que rodean los datos a procesar y los métodos técnicos de los algoritmos destinados a formular la propuesta.³²

Como se ha mencionado, el enfoque debe basarse en un análisis probabilístico según modelos y técnicas de análisis que, aprovechando el aprendizaje automático o soluciones estadísticas inferenciales, permitan representar información, incluso si no se conoce a priori, que, una vez obtenida, puede utilizarse para el elaboración de resultados autónomos (monto del impuesto adeudado en un año determinado) y/o permitir la atribución de una cierta probabilidad de ese evento determinado (es decir, la ocurrencia del requisito tributario). Si este método está excluido del Administracion financiera para la previsibilidad del contribuyente potencialmente riesgoso, sin embargo, la necesidad de formular una propuesta más cercana a datos futuros y reales impone este tipo de análisis probabilístico.³³

Por lo tanto, deberíamos hablar de un análisis supervisado, refiriéndose a muestras de contribuyentes por sector (conjunto de formación), de una variable “respuesta” (producción) que representa la cantidad (renta/valor neto de producción) que se debe predecir en relación con el contribuyente individual, pertenecientes a esa categoría económica determinada. Dentro del conjunto de capacitación, hay una fase de capacitación del modelo durante la cual se analizan las relaciones entre variables fiscales, financieras, de equidad y declarativas específicas (variables de entrada), disponibles en todo el sector económico, y la variable de respuesta. Luego sigue la fase predictiva en la que se atribuye al sujeto individual una predicción del valor de la variable de respuesta sobre la base de las relaciones estimadas.³⁴

En las notas metodológicas para la preparación de la propuesta de composición,³⁵ el análisis predictivo se basa en datos macroeconómicos, como las tendencias del mercado y las proyecciones macroeconómicas de crecimiento del PIB desarrolladas por el Banco de Italia. A ello se suman también los datos relativos a la rentabilidad individual y sectorial que se pueden deducir de los ISA (índices sintéticos de fiabilidad) y los resultados de su aplicación, así como otra información en poder de la Administración financiera.³⁶

En particular, se parte de una medición de los indicadores elementales individuales de confiabilidad y anomalía según una evaluación dentro de la ISA específica a la luz de los datos declarados por el contribuyente en los últimos ocho años disponibles. Con respecto a algunas partidas relacionadas con estos indicadores, el valor de los ingresos/compensaciones se asumió en la cantidad requerida para la máxima confiabilidad fiscal (como en relación con la partida “ingresos por empleado”). Alternativamente, se han desarrollado algoritmos de evaluación indirecta específicos. En la nota se hace referencia al índice de “duración y liquidación de existencias” que se valora pasando del valor de referencia de las existencias finales (como incremento del coste de los bienes vendidos y de la producción de servicios) y que se parte del mayor valor añadido por empleado. Para los contribuyentes que no tienen un nivel máximo de fiabilidad, se prevé la revalorización de los indicadores elementales no plenamente satisfechos según coeficientes de referencia (bbench) determinados sobre la base de la relación entre el valor añadido declarado y el estimado por contribuyentes plenamente fiables en el sector económico.

Para la propuesta de composición se hace referencia a los datos históricos de rentabilidad del contribuyente en los períodos anteriores y en el período de aplicación. Para ello se hace referencia a la evolución de los resultados de explotación, como la alcanzada dentro de la dirección central en los últimos tres ejercicios. Los ingresos de los últimos tres años están sujetos a un promedio ponderado con diferentes pesos dependiendo de los puntajes de confiabilidad por año. La relación entre el resultado de explotación y el resultado medio permite identificar el coeficiente de revalorización de la base de composición.

El cálculo también identifica un nivel mínimo de rentabilidad del sector (limiteinf) tomado de los gastos de trabajo de los empleados (es decir, los sujetos sobre los que no recae el llamado riesgo empresarial). Si la cuantificación de ingresos determinada en los pasos metodológicos anteriores es inferior al nivel sectorial de gastos por empleo, se asume este valor mínimo como dato de ingresos. Este paso metodológico parte de las cotizaciones de Vejez, Sobrevivencia y Invalidez, donde se establece un nivel salarial mínimo para el pago de las cotizaciones a la seguridad social sobre la base de un salario mínimo diario utilizado para el cálculo de las cotizaciones relativas a los trabajadores de los sectores de artesanía y comercio. .

Por último, la revalorización con proyecciones macroeconómicas está marcada por la fiabilidad de la fuente de estos datos, es decir, el Banco de Italia. Los riesgos derivados de la inestabilidad geopolítica se tienen en cuenta para determinar los aumentos de los precios de las materias primas o la disminución de la confianza de los operadores económicos o los efectos sobre la crisis crediticia de las empresas y familias (debido al aumento de los tipos de interés). No se puede dejar de observar, sin embargo, que estos datos dan lugar a “estimaciones”, siendo susceptibles de revisiones durante el año debido a acontecimientos imprevistos o impredecibles (como una emergencia sanitaria, un ataque terrorista o una guerra).

4 Las utilidades en la actividad organizativa de la Administración financiera y en el proceso tributario

El ámbito más apreciable en términos de eficacia y eficiencia parece ser el de las funciones auxiliares e instrumentales que las técnicas de inteligencia artificial pueden asumir dentro de la organización.

Desde este punto de vista, son bienvenidas las iniciativas encaminadas a mejorar la digitalización de la acción administrativa en lo que respecta a la simplificación de las relaciones con los contribuyentes y la prestación de servicios. A este respecto, las orientaciones de la Administración Financiera apuntan – en particular y entre otras cosas – a la gestión remota de todas las fases de la discusión. En este sentido, la Agencia promueve la realización de contrainterrogatorios incluso a distancia mediante la mejora de los servicios de entrega de documentos o de reserva de citas web, así como a través de nuevas herramientas destinadas a la gestión de solicitudes de aclaraciones y certificaciones en línea.³⁷

En este sentido, el desarrollo de mayores servicios en línea puede resultar útil para reducir el aporte de recursos en el contexto de actividades rutinarias o de bajo impacto en la eficiencia y eficacia administrativa en las tareas fundamentales asignadas a la Administración Financiera. Esto debería aplicarse a la emisión de certificaciones o la asignación de códigos tributarios, pero también al fortalecimiento del Sistema de Intercambio (SDI), ampliando la posibilidad de acceso también a intermediarios y proveedores acreditados – en particular y entre otras cosas – para la gestión integrada. de la declaración y los registros del IVA precompilados.

De esta forma, queremos fomentar la interacción con los usuarios a través de un escritorio digital, orientado a la realización de servicios gestionados de forma totalmente remota a través de funciones integradas de intercambio de documentos, chat, suscripción digital y cualquier documentación útil para el cierre de la actividad de averiguación previa relacionada con su actividad.

De manera más general, el desarrollo infraestructural de plataformas relativas a técnicas de inteligencia artificial (como aprendizaje automático, minería de textos, análisis de redes, etc.) permitirá, desde un punto de vista organizativo, implementar acciones específicas y, por tanto, con mayor eficiencia y menor impacto para ciudadanos y empresas en términos de cargas administrativas.³⁸

Se trata de un proceso de digitalización integral de algunos procesos administrativos. La experiencia práctica ha demostrado cómo las herramientas tecnológicas de comunicación/colaboración resultan de fundamental importancia para la reingeniería de los procesos de la Administración (en términos de digitalización de los flujos documentales, automatización y simplificación de las interacciones entre el personal). Esto dio lugar a importantes ahorros de recursos, lo que permitió a los empleados trabajar de forma remota de forma eficaz. De cara al futuro, el aumento de la digitalización se ve en referencia a las posibilidades que ofrecen los nuevos modelos de inteligencia artificial generativa y conversacional.³⁹

También en este contexto se encuentra la perspectiva de introducir servicios de comunicación rápida para personas físicas y pequeños contribuyentes con el fin de obtener respuestas escritas mediante el uso de tecnologías digitales e inteligencia artificial en lugar de la activación directa del procedimiento de consulta.⁴⁰ En particular, estos contribuyentes podrán acceder gratuitamente -previa solicitud relativa a “casos concretos”- a una base de datos que contiene documentos tipo, respuestas a solicitudes de asesoramiento jurídico y sentencias, resoluciones y cualquier otro acto interpretativo, con el fin de obtener una solución a una cuestión interpretativa o aplicativa. Cuando la respuesta no esté identificada “únicamente”, la base de datos informa al contribuyente sobre la posibilidad de proponer una solicitud de resolución. La utilización de este servicio resulta perjudicial a los efectos del procedimiento de resolución, calificándose expresamente como “condición de admisibilidad” de la correspondiente solicitud. Se trata de una iniciativa destinada a la simplificación en favor de los pequeños contribuyentes, pero también supone una opción directa para reducir la carga de trabajo de las Oficinas, que sólo pueden consultarse mediante solicitud cuando no es posible obtener una respuesta automatizada sobre la base de documentos de práctica ya emitidos. La conformidad de la conducta del contribuyente con lo indicado por el servicio de interlocución rápida tiene por efecto excluir la aplicación de sanciones e intereses moratorios (art. 10, co. 2 Stat. contr.) y no la anulación de cualquier acto tributario contrario a la solución propuesta por la base de datos es similar al carácter vinculante de la respuesta a la solicitud de resolución formulada por la Oficina (art. 11, co. 5 Stat. contr.). Esto parece ser una deminutio en términos de protección del contribuyente. Al mismo tiempo, expresa la desconfianza del propio legislador respecto de la plena fiabilidad y confiabilidad de sus propios medios automatizados de interlocución. De lo contrario, no tendría sentido reconocer una relevancia jurídica diferente entre la respuesta de la Oficina y la de la base de datos.

También en el ámbito de la fase ejecutiva de la obligación tributaria, el plan de iniciativas para el trienio 2024-2026 de la Agencia de Recaudación de Ingresos tiene – entre sus principales lineamientos – la revisión de las arquitecturas de aplicación y de infraestructura con vistas a (i) digitalización (tanto en lo que respecta a los servicios al contribuyente como a los procesos administrativos), (ii) extensión de las soluciones de inteligencia artificial, (iii) evolución de los procesos para apoyar la gestión nacional cobranza, (iv) servicios digitales para (e interoperabilidad con) instituciones acreedoras, (v) ciberseguridad. Todo esto para lograr los objetivos de mejorar la eficiencia de costos y desempeño, mejorar la mantenibilidad y fortalecer la seguridad de TI. En particular, en lo que respecta a la implementación de técnicas de inteligencia artificial, se recuerda que ya en 2021⁴¹ se consolidó un sistema de protocolo con una solución de aprendizaje inteligente que en octubre de 2019 se había aplicado al protocolo de los documentos en papel que ingresaban a la sede única de la dirección Central en Roma sobre los documentos introductorios del litigio y las entregas de papel procedentes de los órganos acreedores. Durante esta experimentación, las técnicas de aprendizaje automático mostraron su aptitud auxiliar e instrumental, ya que dieron lugar a una actividad de interpretación de documentos y extrapolación de información orientada a la clasificación, asignación y registro en relación con las clases documentales para las que se desarrolló la actividad formativa. En una fase posterior, el funcionamiento de estas tecnologías se extendió también a las actividades procesales de la Administración Financiera, como las relativas al repertorio de los escritos iniciales (recursos de apelación) y posteriores (sentencias) del litigio. El objetivo era también automatizar el seguimiento de la información de archivo dentro del llamado Agenda Jurídica que hasta entonces era realizada manualmente por los funcionarios. Se espera una mejora de estas herramientas en el trienio 2024-2026 mediante la ampliación de las clases de documentos relacionados con el proceso tributario, así como mediante la extensión de soluciones de inteligencia artificial para el registro automático de PEC relacionados con el protocolo institucional. En esta perspectiva, se hace referencia al servicio de Conocimiento y Monitoreo SLA a aplicar al protocolo entrante, con el fin de mejorar los niveles de servicio y lograr la máxima estandarización del tratamiento entre los puntos del protocolo.

Además de estos aspectos puramente organizativos, no puede olvidarse el proyecto Prodigit, como plan de inversiones dentro del P.N.R.R. en actividades encaminadas a la innovación tecnológica de la justicia fiscal también a través de técnicas de inteligencia artificial, como – en particular y entre otras cosas – la experimentación de un modelo de previsibilidad de decisiones y la creación de una base de datos nacional de jurisprudencia fiscal (que contiene las sentencias de mérito completas oscurecido). A partir del 27 de junio de 2024, la base de datos se puso a disposición de los usuarios de forma pública, gratuita y de libre acceso. En cuanto a las funciones predictivas, el proyecto está paralizado debido a problemas técnicos relacionados con la formulación del algoritmo.⁴²

5 La ley habilitante n. 111/2023

Un impulso notable hacia la regulación del fenómeno aquí examinado proviene de la reciente ley habilitante para la reforma del sistema tributario, aprobada con la ley núm. 111/2023.

Toda la estructura de la ley habilitante está salpicada de referencias a la digitalización de la actividad de la administración financiera. Además, no podría haber sido de otra manera, considerando la rápida difusión de herramientas tecnológicas al servicio de la gestión de la relación fiscal, como también lo demuestran una serie de proyectos piloto implementados en los últimos años por la Agencia Tributaria también con la contribución de la Unión Europea. Esto parece esencial para permitir a este último tratar eficazmente el inmenso número de datos que se almacenan cada año en las bases de datos de las que dispone.

El legislador delegado ha optado por no dedicar una disposición específica a este tema, sino hacer referencias dispersas al mismo en el contexto de diversas disposiciones. Las referencias más relevantes se encuentran en el art. 2 que establece los principios generales que inspirarán, a nivel interno, la nueva estructura del sistema tributario derivada de la reforma. En la letra b, puntos 1) y 2) del primer párrafo, recordando precisamente la necesidad de una correcta gestión de los datos recabados tanto a través del registro tributario como de la facturación electrónica, y con el objetivo de «prevenir, combatir y reducir la evasión fiscal». y la elusión fiscal”, se refiere al “uso de tecnologías digitales y soluciones de inteligencia artificial”, en particular para “fortalecer el análisis de riesgos”. El objetivo de la plena utilización de las innovaciones tecnológicas en una función endoprocesal es, por tanto, claro, especialmente en lo que respecta a la selección de los sujetos que serán sometidos al control fiscal. Existe, por tanto, conciencia de los menores costes y mayor eficiencia que puede permitir el uso de la inteligencia artificial en este ámbito.

Los principios contenidos, a este respecto, en el art. 2 se concretan parcialmente en el siguiente art. 17, dedicado al procedimiento de evaluación. La letra f del primer párrafo proclama el objetivo de «mejorar el uso de las tecnologías digitales», también a través de la completa interoperabilidad de las numerosas bases de datos de que dispone la Administración Financiera, en tres líneas:

1. la función preventiva (“realización de intervenciones encaminadas a prevenir los errores del contribuyente y las consiguientes investigaciones”);

2. la función de seleccionar a los contribuyentes que serán sometidos a control («realizar acciones específicas, adecuadas para limitar la actividad de control hacia sujetos de mayor riesgo fiscal»);

3. la función predictiva, a efectos del cumplimiento espontáneo (“perseguir la reducción de los fenómenos de evasión y elusión tributaria, maximizando los niveles de cumplimiento espontáneo de los contribuyentes”).

Por tanto, estas normas desarrollan las indicaciones que ya se pueden obtener del art. 2 mencionado anteriormente, confirmando cómo la acción de las herramientas de inteligencia artificial deberá moverse en el ámbito del procedimiento de investigación previa, sin poder desbordarse a la fase de preparación de la comunicación de evaluación. La delegación, sin embargo, no lo hace explícito, manteniendo un cierto grado de ambigüedad al respecto, como se desprende en particular de la lectura del art. 2, párrafo 1 letra. b.1, donde «el uso de tecnologías digitales y soluciones de inteligencia artificial» parece concebirse como generalizado.

En cuanto al art. 17 parece excluir este enfoque, es deseable que el legislador delegado lo aclare explícitamente, también sobre la base de la práctica administrativa que se está desarrollando al respecto. Hay que recordar que el Consejo de Estado, refiriéndose a un acto administrativo algorítmico en materia no fiscal, afirmó el necesario respeto al principio de cognoscibilidad de una norma expresada en un lenguaje que no es estrictamente jurídico, sosteniendo que «la caracterización multidisciplinaria» del algoritmo (una construcción que ciertamente requiere no sólo competencias jurídicas, sino también técnicas, informáticas, estadísticas y administrativas) no exime de la necesidad de que la «fórmula técnica», que de hecho representa el algoritmo, sea acompañado de explicaciones de que traducir en la ‘norma jurídica’ que la sustenta y hacerla legible y comprensible, tanto para los ciudadanos como para el juez” (Consejo de Estado, sección VI, sentencia n.° 2270/2019). Teniendo en cuenta los obstáculos que, como es sabido, rodean el pleno acceso al algoritmo, se trata de un réquiem sustancial para cualquier hipótesis de utilización de la inteligencia artificial por parte de la Administración Financiera para fundamentar tout court una nota de evaluación.

6 La ejecución de la delegación en los decretos delegados

Los decretos delegados han implementado esta parte de la delegación de forma bastante amplia, aunque no del todo orgánica. Indicaciones interesantes provienen principalmente del Decreto Legislativo 13/2024, que regula la liquidación e introduce el convenio con acreedores; así como por Decreto Legislativo. 219/2023 que modificó el Estatuto de los Derechos del Contribuyente (ley n° 212/2000).

Un primer tema de interés se refiere al art. 10-nonies del Estatuto, relativos a la consulta simplificada para los contribuyentes menores, sobre el mecanismo para determinar la base imponible sujeta al acuerdo propuesto por la Agencia Tributaria, así como sobre la estructura del decreto sobre la evaluación, en particular en lo que respecta a la análisis del riesgo fiscal y selección de los contribuyentes a ser sometidos a control. Estos son, de hecho, ejemplos relevantes de la amplitud variable que la implementación de la delegación atribuye al uso de la inteligencia artificial en las actividades de la Administración financiera.

El mecanismo de consulta simplificado indica un uso básico de los sistemas tecnológicos. Se trata, en realidad, de una base de datos que recoge posiciones previas tomadas por la Administración financiera,⁴³ a la que pueden acceder personas físicas y menores contribuyentes para conocer la orientación del sector público respecto de un caso concreto y antes de acceder a una solicitud formal, que sin embargo, sólo se permite cuando la consulta de la base de datos no proporciona un resultado o no resuelve la situación de incertidumbre. En este contexto, la inteligencia artificial tiene el objetivo limitado de seleccionar los documentos de prácticas relevantes y combinar sus indicaciones para dar respuesta a la pregunta del contribuyente, por lo que se trata de una base de datos que podríamos definir como avanzada y en la que, por tanto, la función del procesamiento automatizado está en gran medida limitada. Entre otras cosas, cuando el solicitante se adapta a los resultados proporcionados por la base de datos que posteriormente resultan incorrectos, se prevé que la recuperación de cualquier impuesto adicional adeudado no irá acompañada ni de la imposición de ninguna sanción ni de la atribución de intereses. .

En cuanto al acuerdo preventivo, el art. 9 del Decreto Legislativo núm. 13/2024 establece que «la propuesta de acuerdo es elaborada por la Agencia Tributaria (…) sobre la base de una metodología que mejora, también a través de los procesos de toma de decisiones totalmente automatizados a que se refiere el art. 22 del Reglamento (UE) 2016/679, del Parlamento Europeo y del Consejo, de 27 de abril de 2016, la información ya de que dispone la Administración Financiera”. El tratamiento automatizado tiene, por tanto, por objeto una multiplicidad de datos, externos al contenido de la declaración del contribuyente, con el fin de identificar la capacidad contributiva expresada por el mismo para la determinación de la cuantía del convenio de acreedores propuesto. Aquí, la inteligencia artificial se utiliza para reconstruir la renta imputable al contribuyente y tiene, por tanto, un impacto mucho más profundo en la gestión de la relación tributaria, aunque todavía en el contexto de un procedimiento especial como el del convenio preventivo.

En cuanto al uso de la inteligencia artificial en las actividades ordinarias de control y valoración, hay que decir que la implementación de la delegación la ha limitado a una fase endoprocesal, que es la del análisis del riesgo fiscal y, por tanto, de la selección de los contribuyentes ser sometidos a verificación.

El art. 2 del Decreto Legislativo núm. 13/2024, letra del apartado 1. a), al definir el concepto de “análisis de riesgos”, se refiere a un «proceso, compuesto de una o más fases, que, con el fin de maximizar la eficacia de las actividades de prevención y lucha contra la evasión fiscal, el fraude fiscal y el abuso de impuestos ley, así como aquellos dirigidos a estimular el cumplimiento espontáneo, a través de modelos y técnicas de análisis determinista o probabilístico (…), utiliza, también a través de su interconexión, la información presente en los datos bancarios provenientes de la Administración Financiera, o públicamente disponible, asociar, consistentemente con uno o más criterios selectivos, o con uno o más indicadores de riesgo inferidos o derivados, la probabilidad de ocurrencia a un riesgo fiscal específico, realizando además, cuando sea posible, una predicción sobre las consecuencias que pueden generarse. de su determinación.” En este caso, el sistema automatizado se basa en el gran acervo de información en poder de la Administración Financiera (pero también, un aspecto importante al que tendremos que volver cuando abordemos el delicado tema de las protecciones, sobre cualquier otro dato deducible de fuentes públicas ) para calcular el riesgo fiscal de un contribuyente o de un caso. Esto tiene el doble propósito de orientar los controles, incluidos los preventivos, y realizar actividades de evaluación, así como aquellas encaminadas a solicitar el cumplimiento espontáneo por parte de los contribuyentes interesados.⁴⁴

Además, la posición de las normas introducidas por el Decreto Legislativo núm. 13/2024 con respecto a la posibilidad de utilizar directamente los resultados del análisis automatizado para la actividad de evaluación: una ambigüedad ya presente en la ley habilitante,⁴⁵ que permanece precisamente durante la implementación, donde en particular se prevé que los resultados del análisis automatizado puede utilizarse como base para “fines de lucha contra la evasión fiscal” no especificados.

Si la Administración financiera afirmara que basa su evaluación en lo que indica el sistema de inteligencia artificial, surgirían importantes problemas de interpretación.

En primer lugar, el vinculado a la motivación del acto administrativo. Si realmente se creyera que esto podría estar motivado en función de los resultados del procesamiento del sistema de inteligencia artificial, entonces nos enfrentaríamos a la cuestión del algoritmo utilizado por este último para el procesamiento de datos, el más de la época incognoscible.⁴⁶ Una de las características indefectibles de la motivación del acto administrativo es, efectivamente, que con su lectura el destinatario debe ser capaz de comprender tanto el fundamento de lo impugnado como el procedimiento lógico mediante el cual la oficina da ese fundamento, fue posible llegar a una conclusión determinada, en este caso la de la ilegalidad de una determinada operación.

Pues bien, en el caso de los sistemas inteligentes, la reconstrucción del procedimiento lógico no puede ignorar el acceso al algoritmo, porque en él reside la comprensión del camino por el que se puede realizar la comparación entre las características concretas del caso en cuestión y aquellas que, a partir de la datos conocidos por el sistema, deberían haberse mostrado para poder juzgar como correcta la mencionada operación. Sin embargo, no es seguro que la Administración Financiera a su vez tenga acceso al algoritmo y pueda por tanto cumplir con esta carga motivacional, precisamente como consecuencia del mencionado “secreto” del mismo. Por otro lado, y en consecuencia, el problema también adquiere fondo, ya que la imposibilidad de comprender el funcionamiento del algoritmo implica la subordinación de la actividad administrativa a elecciones (incluso de valor) realizadas de forma autónoma y descontrolada por sus creadores.⁴⁷

Luego está la cuestión de proteger los derechos del contribuyente.⁴⁸ El deber de fundamentar el acto tributario, además de garantizar el buen desarrollo de la actividad administrativa, tiene como objetivo permitir al destinatario el pleno ejercicio de su derecho de defensa, que pasa inevitablemente por la plena comprensión de los términos de la reclamación que le dirige el ’oficina. El caso del litigio por abusividad motivado a partir de los resultados de un tratamiento realizado por un sistema de inteligencia artificial, plantea, a este respecto, dudas bajo dos perfiles: el, ya examinado, de la comprensión real de la motivación de la recuperación, debido a la imposibilidad de acceder al algoritmo subyacente; y que, en todo caso, ligado a los costes de asesoramiento técnico que inevitablemente, incluso cuando dicho acceso fuera posible, el contribuyente estaría obligado a soportar para comprender verdaderamente su funcionamiento.⁴⁹

Finalmente, está el problema del valor probatorio que podría tener ante los tribunales el tratamiento realizado por el sistema inteligente. De hecho, los límites de cognoscibilidad del algoritmo también pueden tener un impacto negativo en la actividad del juez, que en la mayoría de los casos no estaría en condiciones de evaluar la fiabilidad de la reconstrucción de la oficina, salvo quizás a costa de recurrir masivamente a consultoría técnica oficial, con el consiguiente aumento de los costos de la justicia.

Salvo en los casos de actividades meramente rutinarias,⁵⁰ rara vez identificables en el ámbito fiscal, la hipótesis ya destacada por la doctrina administrativa, de su utilización en el back office, permanece, por lo tanto, para la realización de una investigación interna al final de la cual no hay la intervención del funcionario, ser humano capaz de asumir la responsabilidad externa por el acto dictado.⁵¹ De lo contrario, existe un riesgo real de “descargar” al juez -y por tanto en una fase posterior a la evaluación- la evaluación de intereses que la Administración Financiera debe realizar previamente en el caso concreto.⁵²

La confirmación, aunque en un contexto extrafiscal, llega del Consejo de Estado con la sentencia. 4 de febrero de 2020, n. 881, pronunciado por la Sección VI. Aquí los jueces, por un lado, destacan la importancia y utilidad de las herramientas automatizadas para garantizar la eficiencia y el buen desempeño de la Administración Pública, por otro, fijan una serie de límites, con el fin de proteger los derechos de los interesados. partes, más allá de las cuales el uso de la inteligencia artificial no puede ir más allá. En particular, leemos que «dos aspectos preeminentes asumen una importancia fundamental, también a la luz de la disciplina de origen supranacional, como elementos de garantía mínima para cualquier hipótesis de uso de algoritmos en la toma de decisiones públicas: a) la plena cognoscibilidad aguas arriba de el módulo utilizado y los criterios aplicados; b) la imputabilidad de la decisión al órgano que tiene el poder, que debe poder realizar la necesaria verificación de la lógica y de la legitimidad de la elección y de los resultados confiados al algoritmo”. Una vez más, no sólo se precisa la necesidad de que el resultado del procesamiento algorítmico sea examinado por un operador humano, que asume la correspondiente responsabilidad, sino que se precisa además que se debe garantizar el pleno conocimiento del algoritmo, «desde sus autores hasta los procedimiento utilizado para su elaboración, al mecanismo de decisión, incluyendo las prioridades asignadas en el procedimiento de evaluación y toma de decisión y los datos seleccionados como relevantes”. Esto, prosigue la sentencia, «para poder comprobar que los criterios, requisitos y resultados del procedimiento robótico cumplen con los requisitos y finalidades establecidos por la ley o por la propia administración previa a este procedimiento y para que sean los métodos y las normas según las cuales se creó son claros y, por tanto, revisables”.

Queda, en esencia, confirmado que el acto administrativo nunca puede, por el momento, basarse en los resultados de un procedimiento automatizado, ya que no existe ningún algoritmo -salvo en el caso, por ahora puramente teórico, en el que ha sido desarrollado por la Administración Pública,propia Administración- permite ese nivel de conocimiento que, como hemos visto, exige la jurisprudencia.

7 Protección del contribuyente sometido a procedimientos automatizados

El uso de estas herramientas deberá realizarse de forma que no lesionen los derechos del contribuyente. De hecho, mientras que en otros sectores jurídicos la cuestión de los derechos individuales frente a la IA está especialmente presente, en el ámbito fiscal esto ocurre en una medida mucho más limitada. La delegación fue, por tanto, la oportunidad para una intervención reflexiva en este sentido, considerando también la centralidad que tiene la protección de los derechos del contribuyente en todo el sistema de la propia delegación.

Sobre este punto, el art. 2 de la ley núm. 111/2023 plantea la cuestión pero la resuelve de forma bastante insatisfactoria, limitándose a prever que el uso de las nuevas tecnologías se realice “de conformidad con las normas de la Unión Europea en materia de protección de datos personales”. No se trata de una referencia muy tranquilizadora, ya que el RGPD (Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, prevé amplias excepciones a la protección de datos personales en el contexto de asuntos fiscales. Al mismo tiempo, también la Ley de IA, o el Reglamento europeo sobre inteligencia artificial n.º 1689/2024, aprobado recientemente por el Consejo, así como el aplazar hasta 2023 el funcionamiento de las protecciones respecto del uso de inteligencia artificial por parte de la Administración Pública, considera que el uso de sistemas automatizados por parte de la Administración Financiera no entra entre los considerados de alto riesgo, con la consiguiente posibilidad por parte de los Estados miembros de legítimamente reducir la protección de las personas sujetas a ella.

Por lo tanto, la mera referencia a la normativa europea corre el riesgo de garantizar muy poco la situación del contribuyente. Será necesario, por tanto, que el legislador delegado, por un lado, especifique a qué protecion tiene derecho el contribuyente durante las actividades automatizadas realizadas por la Administración financiera; por otro, que extiende esta protección más allá de los límites establecidos por el RGPD. En particular, este último objetivo podría alcanzarse potenciando, incluso en este contexto, el diálogo preventivo que, según la delegación, se ha generalizado, aunque no de forma totalmente satisfactoria.

Durante la ejecución de la delegación, las dudas, ya presentes en la lectura de los principios directivos, se han confirmado hasta ahora, arrojando más que una sombra sobre el equilibrio efectivo entre las necesidades de reforzar la eficacia de la acción administrativa y la plena protección de los derechos del contribuyente.

Un primer aspecto de perplejidad se refiere a la posibilidad de que el resultado del procesamiento automatizado sea en realidad objeto de control consciente por parte del operador humano.

La jurisprudencia administrativa viene destacando desde hace tiempo la importancia de que el uso de algoritmos en las actividades de la Administración Pública esté respaldado por una evaluación autónoma por parte de operadores humanos. El Garante de la Privacidad ha intervenido varias veces contra la Agencia Tributaria para imponer la adopción de formas de garantía adecuadas al uso automatizado de los datos, invocando la intervención de operadores humanos cualificados para la interpretación de los resultados del tratamiento automatizado para proteger al contribuyente. Véase, entre otros, el dictamen núm. 58 de 14 de marzo de 2019, que se refería al procesamiento por parte de la Agencia Tributaria de los datos contenidos en el Archivo de informes financieros. En ese caso, el Garante ha prescrito expresamente la «evaluación puntual de la coherencia global de la posición de cada contribuyente seleccionado por operadores calificados pertenecientes a las Direcciones provinciales, específicamente capacitados por la Dirección Central de Investigación, antes de la citación del contribuyente».

La delegación, a este respecto, prevé (en el art. 16, apartado 1 letra r) el objetivo de «reforzar la especialización y la formación profesional continua del personal de la Administración financiera, con especial referencia (…) el uso de las nuevas tecnologías digitales, también aplicadas a las actividades económicas, el uso del big data y su procesamiento, la seguridad informática (…)“. Se tratará de limitar y concretar este criterio directivo, dada en particular su sensibilidad para la protección de los derechos. Aunque, como se ha mencionado anteriormente, siempre es necesario que los resultados del análisis automatizado sean examinados críticamente por un operador humano, el riesgo real es que este último se vea influenciado por la fuerza”persuasiva” del algoritmo, en el sentido de que estos resultados parecen tener una calidad científica objetiva, tal que cualquier intervención humana es superflua o incluso peligrosa para la pureza de los resultados. Frente a este riesgo, sólo una adecuada preparación técnica del personal de la Administración Financiera puede constituir una garantía eficaz. En este sentido, sin embargo, suscita dudas lo indicado por el art. 16, mencionado anteriormente; es decir, que las acciones de especialización y formación deben realizarse “sin nuevas o mayores cargas para las finanzas públicas”. Existe el riesgo de que las indicaciones, aunque apreciables, contenidas en la delegación no puedan aplicarse debido a los costes que inevitablemente imponen tales actividades de formación y especialización. Con ello se pone en riesgo la plena protección de la posición del contribuyente involucrado en el procedimiento automatizado.

Además, son bien conocidas las críticas al enfoque basado en una relectura humana de los resultados del procesamiento automatizado, considerado excesivamente optimista: el procesamiento por el algoritmo, al estar rodeado de un aura de objetividad, influye en la actitud del operador humano, empujándolo a confirmar el resultado, también por el esfuerzo motivacional que inevitablemente le impondría una posición diferente.⁵³ Una manifestación significativa de cierto pesimismo a este respecto es la Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en materia penal (2022/C 132/02), que observa que « si los humanos se basan únicamente en datos, perfiles y recomendaciones generados por máquinas, no podrán realizar una evaluación independiente», destacando que «debe evitarse una confianza excesiva en los resultados proporcionados por sistemas de IA”.⁵⁴

La misma indicación parece surgir también del reglamento europeo sobre la protección de las personas físicas en relación con el tratamiento de datos personales. El art. 23, carta. e) del RGPD permite una decisión completamente automatizada en materia fiscal, pero requiere, además de una regulación legal expresa, también la necesaria intervención humana. Se expresa de manera completamente similar el art. 11 de la Directiva 680/2016 “relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por las autoridades competentes con fines de prevención, investigación, detección y persecución de delitos o de ejecución de sanciones penales”, que extiende efectivamente la amplias exenciones previstas por el RGPD para las decisiones automatizadas que en cierta medida implican sanciones, por tanto todas aquellas de carácter fiscal donde, como es sabido, la liquidación del impuesto más elevado suele ir acompañada de la imposición de sanciones.

Un segundo aspecto controvertido se refiere a la posibilidad de que el alcance de los derechos del contribuyente sometido a la acción automatizada de la Administración Financiera sea definido por fuentes sublegislativas.

De hecho, el art. 2, párrafo 4, del Decreto Legislativo n. 13/2024 establece que la Agencia Tributaria, al realizar actividades de análisis de riesgos, podrá limitar los derechos de los interesados ​​en materia de protección de datos personales, refiriéndose a una norma del Ministerio de Economía y Finanzas para la disciplina correspondiente.

Existe, por tanto, un doble perfil de preocupación: por un lado, parece admitirse pacíficamente -por otra parte, ya se ha recordado, en línea con las urgencias de los documentos supranacionales- que los derechos individuales en el marco de los procedimientos regulados mediante inteligencia artificial puede ceder ante los intereses de las autoridades fiscales; por otra parte, la extensión residual de estos derechos se deja a una fuente subordinada y, en este caso, a la misma entidad pública como titular de la parte activa de la relación tributaria.

Se trata de una restricción problemática de los motivos de protección individual, además en continuidad con las limitaciones ya previstas en nuestro sistema por la ley de presupuestos de 2020,⁵⁵ en la que se establecía expresamente que el reconocimiento de los derechos a que se refiere el RGPD (en particular las previstas en los artículos 15 a 22) podrían limitarse en el caso de que su ejercicio pudiera entrañar riesgo de perjuicio efectivo y concreto a los intereses perseguidos en materia tributaria, así como a la realización de actividades de prevención y ejecución a la evasión y elusión fiscal. También en este caso, la latitud concreta de esta disciplina quedó en manos de un decreto emitido por el MEF.

Parece claro que la limitación de los derechos individuales al tratamiento de datos en el caso de tratamientos realizados con fines fiscales crea, en este caso, una vulnerabilidad mucho mayor que la ya parcialmente presente en la normativa europea,⁵⁶ en la que la posible restricción en el disfrute de los derechos, además de tener que ser tal que no anule completamente la sustancia de los propios derechos, debe en todo caso estar previsto por una fuente con rango legislativo.

Además, el art. 2, párrafo 1 letra. a), del Decreto Legislativo núm. 13/2024 permite a la Administración Financiera realizar las actividades requeridas de análisis de riesgos fiscales utilizando no solo la información presente en las bases de datos de la Agencia Tributaria, sino también la que puede deducirse de fuentes públicas: la referencia a la posibilidad de referirse a datos presentes en Internet y, en particular, en las plataformas sociales, relativos a cada contribuyente individual. De esta manera, surge un problema importante en cuanto a la confiabilidad de dicha información, que bien puede no reflejar la realidad real de los hechos y, por tanto, dar lugar a reconstrucciones que no sean consistentes con la capacidad contributiva.

Este riesgo, por otra parte, ya había sido subrayado en una iniciativa similar del legislador francés, que había previsto la posibilidad de basar las valoraciones sobre la residencia fiscal en la información que se podía obtener precisamente de los perfiles sociales de los interesados: esto, por otra parte, suscitó la reacción de la Cour constitutionelle, que – si bien admite la legitimidad constitucional de la disciplina en cuestión – destacó firmemente la necesidad de respetar una serie de salvaguardias para proteger los derechos de los contribuyentes involucrados.

Sin embargo, a este respecto cabe destacar la intervención del Garante de la Privacidad, que – con referencia al proyecto de decreto legislativo sobre la evaluación y al acuerdo preventivo bienal – subrayó la necesidad de que el art. 2, apartado 3, la información “disponible públicamente” se elimina de la lista de susceptibles de utilización (…) por carecer de los requisitos de fiabilidad necesarios y ser recogida para fines distintos de los subyacentes al tratamiento en cuestión”.⁵⁷ Esta voluntad, como hemos visto, no fue aceptada por el legislador delegado en relación con las actividades de análisis y control de riesgos, mientras que el riesgo de robo de datos parece haber sido excluido en relación con la metodología de determinación de la base imponible objeto de la propuesta para un convenio con acreedores, ya que el art. 9 del Decreto Legislativo 13/2024 solo menciona las bases de datos disponibles para la Agencia Tributaria.

Incluso con respecto a la capacidad de conocimiento del algoritmo, la implementación de la delegación muestra algunos problemas críticos.

Ya se ha destacado anteriormente la opacidad del algoritmo, una verdadera caja negra que, especialmente en su forma generativa y de autoaprendizaje, hace completamente improbable la comprensión del proceso de implementación de las actividades que se le confían.

Desde este punto de vista, sería necesario mejorar el pleno conocimiento del algoritmo, especialmente si está equipado con mecanismos de aprendizaje automático, para no dejar desprotegido al contribuyente (pero también al juez, en los casos en que el resultado de la actividad automatizada llega a alguno de su competencia) de la posibilidad de comprender la lógica que subyace a la acción practicada contra él y ejercer conscientemente su derecho de defensa.

Sobre este punto, nuevamente con fuente no regulatoria, la Agencia Tributaria intervino para describir los procesos de análisis de riesgos y el algoritmo relacionado utilizado en la realización de las actividades a que se refiere la citada norma introducida al implementar la delegación. El documento denominado “Información sobre la lógica subyacente a los modelos de análisis de riesgos basados ​​en datos del Archivo de Informes Financieros” de 19 de mayo de 2023, constituye, por un lado, la primera descripción de los métodos prácticos con los que la Administración Financiera pretende utilizar sistemas automatizados en el nuevo contexto regulatorio, por otra parte, persiste en mantener en secreto “la arquitectura informática utilizada”, con el fin de “salvaguardar las necesidades de confidencialidad de las actividades institucionales de la Agencia Tributaria y evitar la adopción de conductas susceptibles para evadir los controles”. Confirmamos aquí un enfoque basado exclusivamente en la centralidad de las nuevas tecnologías para la eficiencia de la acción pública, considerada prevalente respecto del pleno despliegue de los derechos del contribuyente involucrado.

Finalmente, existe el riesgo de conductas discriminatorias en la determinación del análisis de riesgo y, por tanto, en la selección de los contribuyentes a ser sometidos a control. De hecho, parece existir una posibilidad concreta de que aquellos que ya han pasado por evaluaciones fiscales sean señalados con mayor frecuencia como merecedores de controles adicionales.

Esta posibilidad ya se desprende de la lectura del decreto de valoración. El art. 2, párrafo 1 letra. a), del Decreto Legislativo núm. 13/2024 sitúa, de hecho, al mismo nivel los “deterministas” y los “probabilísticos” en lo que respecta a la selección de modelos y técnicas de análisis de riesgos. Ambos, por lo tanto, pueden utilizarse legítimamente para la selección de contribuyentes riesgosos hacia quienes las actividades de control y verificación deben dirigirse de manera prioritaria.

Pues bien, el análisis probabilístico tiene una clara connotación predictiva, que se basa -como se especifica en la citada información de mayo de 2023- en “datos relativos a los contribuyentes ya sujetos a control” y puede conducir a una modelización que tenga como base índices relativos, precisamente, a la conducta tributaria previa del contribuyente, tales como “presencia de informe de liquidación, comisión de infidelidad declarativa, participación en esquemas fraudulentos y similares”.

No parece improbable que el funcionamiento de los sistemas automatizados se dirija principalmente a contribuyentes ya conocidos por las autoridades tributarias, con el doble efecto de discriminar a quienes se encuentran en esta condición, independientemente del resultado de conflictos previos en la fase administrativa (pensemos en un adhesión) o en el judicial (por ejemplo con la anulación de la notificación de liquidación), y para preservar la posición de aquellos que son completamente desconocidos para la Administración financiera.

También es cierto que la citada Información señala que el análisis probabilístico sólo debe servir para corroborar los resultados del determinista: sin embargo, la letra del decreto de valoración no avala tal interpretación, colocando a ambos en el mismo nivel, con la consecuencia es que un documento descriptivo sin valor jurídico como la Información no puede alterar el marco regulatorio, dejando intactos los riesgos de conductas distintas a las previstas en el mismo.

8 Algoritmo y sanción “aflictiva”: ideas problemáticas de la práctica supranacional y extranjera

La posible utilización del algoritmo por parte de las Oficinas en el contexto de las actividades de imposición de sanciones administrativas tributarias se inscribe en el contexto de un procedimiento lleno de perfiles de evaluación y capaz de involucrar el núcleo esencial de los derechos individuales: dos elementos que – a diferencia de lo que ocurre, por ejemplo, con las sanciones por infracciones del código de circulación⁵⁸: cuestionan fuertemente la intervención humana prudente y, por tanto, hacen que la cuestión del uso de la inteligencia artificial sea muy delicada.

En este contexto, la reflexión debe partir de dos experiencias, ambas no centradas en sanciones fiscales sino en general penales: la carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y campos afines, adoptada por la Comisión Europea para la Eficiencia de Justicia (órgano del Consejo de Europa) en diciembre de 2018; y la práctica predominantemente norteamericana de algoritmos predictivos para determinar sanciones penales y evaluar el riesgo de reincidencia. A pesar de la extrema diversidad de resultados, ambas experiencias sugieren algunas reflexiones comunes y útiles para la investigación sobre sanciones fiscales.

La Carta de Ética recomienda especial precaución en el uso de algoritmos cuando se refiere a asuntos penales. En particular, leemos que dicho uso debería examinarse “con las más extremas reservas” en el caso de los algoritmos de elaboración de perfiles de personas en el ámbito penal, con el fin de evitar riesgos de resultados discriminatorios y, por tanto, de violación de las normas europeas sobre sanciones penales». El documento se refiere aquí a situaciones típicamente delictivas, en las que los antecedentes y la situación personal del individuo podrían sugerir un peor juicio de peligrosidad que esconde prejuicios raciales, sociales o sexuales. Además, se trata de situaciones que también podrían surgir en relación con los supuestos sancionadores fiscales: pensemos en la institución de la reincidencia, la adopción de medidas cautelares por parte de la Administración financiera, hasta la apreciación del peligro naturalmente inherente a la imposición de sanciones accesorias, como como los previstos por el art. 21 del Decreto Legislativo 472/1997.

En cuanto a la práctica norteamericana, pensamos en el conocido caso Loomis, que se refería a la determinación de una pena de prisión gracias al uso del algoritmo llamado Compas,⁵⁹ a partir del cual se puede calcular la probabilidad de reincidencia, así como el riesgo social de un individuo refiriéndose a una serie de datos estadísticos, algunos relativos al acusado (por ejemplo, los precedentes o las respuestas dadas por el mismo a un cuestionario específico), otros cubiertos por secreto industrial y, por tanto, desconocidos. El caso, en el que la pena impuesta a los acusados ​​había sido efectivamente aumentada en base a las evaluaciones ofrecidas por Compas, finalmente llegó al Tribunal Supremo de Wisconsin. De hecho, esto ha legitimado el uso del algoritmo, por un lado reconociendo el derecho de la empresa propietaria a proteger sus derechos de propiedad, por otro afirmando la libertad del tribunal de evaluar los resultados del tratamiento automatizado.⁶⁰ El caso Loomis es también sólo el más conocido de los muchos ejemplos de utilización de algoritmos para la determinación de sanciones penales, acontecimientos todos ellos en los que el uso predictivo de la inteligencia artificial -incluso en algunos casos obligatorio para el juez- se ha considerado neutral y, por tanto, perfectamente admisible. Lo que resulta inquietante frente a estos experimentos es la constatación – confirmada por numerosos estudios independientes⁶¹ – de que esta neutralidad no existe en absoluto, las repercusiones negativas de la aplicación de tales algoritmos en términos de discriminación y distorsiones del sistema.⁶²

Como se ha observado,⁶³ en nuestro ordenamiento jurídico tales herramientas, basadas en valoraciones psicocriminológicas, estarían en conflicto con la prohibición a que se refiere el art. 220, segundo párrafo, del código procesal penal. Sin embargo, en materia fiscal su uso no es impensable, por ejemplo en la evaluación de reincidencias o en la determinación de sanciones adicionales, casos en los que los riesgos de menoscabo de la protección de los derechos individuales parecen amplificados por el hecho de que tales evaluaciones se sitúan en el nivel de procedimiento administrativo y no al del juicio.

Por lo tanto, si la Carta de Ética destaca los riesgos discriminatorios inherentes a los algoritmos utilizados en la aplicación de sanciones penales, recomendando su uso limitado, mientras que la práctica norteamericana parece más relajada al admitir su uso y al asumir el riesgo de resultados distorsionados, ambos enfoques parecen estar unidos por la conciencia de las peculiaridades de los procedimientos de aplicación de sanciones penales y de los riesgos que la automatización puede generar en este contexto. Una consideración que, evidentemente, sólo puede ser válida también en las reflexiones que estamos haciendo sobre las sanciones fiscales gestionadas de alguna manera a través de algoritmos.

9 Inteligencia artificial y procedimiento sancionador

Ahora se trata de situar estas reflexiones en el contexto del sistema de sanciones fiscales italiano y preguntarse si, y en qué medida, la Agencia Tributaria puede utilizar sistemas inteligentes para determinar el importe de la sanción aplicable en cada caso concreto y proceder con la imposición relativa, tratando de comprender si las ya numerosas advertencias que la doctrina y la práctica del Garante de Privacidad han puesto en relación con la actividad administrativa automatizada son suficientes para este fin, o por el contrario si – como se cree – la función sancionadora debe estar por separado de la liquidación tributaria y si, por tanto, el debate sobre el uso de algoritmos con este fin requiere también otras herramientas de reflexión más afinadas.

De hecho, las sanciones tributarias administrativas parecen ser el área más fructífera para la aplicación de métodos totalmente automatizados. La función conexa, que ahora resulta clara para cualquier operador práctico, la llevan a cabo las Oficinas de forma casi automática, casi como si se tratara de una operación limitada a pesar de la ausencia de cualquier justificación reglamentaria al respecto. Basta pensar en la práctica según la cual la sanción impuesta es siempre igual al mínimo legal y en la circunstancia, en cierto modo aún más chocante, de que el fraude y la negligencia no son objeto de mención alguna en los documentos con los que la Administración Financiera impone las sanciones correspondientes. al homenaje. En este sentido, es completamente aceptable la postura de quienes afirman⁶⁴ que nuestro sistema tributario contempla ahora una presunción de culpa, por lo que la violación de una ley tributaria, con la consiguiente recuperación de un impuesto mayor, siempre resulta en la aplicación de una sanción, accesorio casi irrenunciable de la liquidación del impuesto, cuya aplicación es ajena a cualquier investigación sobre la existencia de las condiciones que establece el Decreto Legislativo 472/1997 para la aplicación de sanciones administrativas.⁶⁵ El sistema ha perdido esencialmente, en sus resultados prácticos, toda la connotación personalista de la sanción que había sido, a la inversa, el elemento característico de la reforma de 1997,⁶⁶ en favor -precisamente- de una aplicación mecánica de la sanción mínima⁶⁷ que sólo aparentemente redunda en beneficio del contribuyente, traduciéndose, por el contrario, en una generalización de la sanción incluso en los casos en que el impuesto evadido no puede ir acompañado de consecuencias sancionadoras en ausencia del elemento subjetivo.

Precisamente la reflexión sobre los usos de la inteligencia artificial podría contribuir a poner en el centro de la atención la necesidad de recuperar la estructura personalista original de la reforma de 1997, desligando la sanción de la conexión indefectible con el impuesto e identificando su peculiaridad en el principio personalista y sus corolarios de aplicación. No es nada obvio que el algoritmo pueda desempeñar un papel en el procedimiento de imposición de sanciones fiscales: sin embargo, la reflexión sobre los automatismos que inevitablemente evoca podría llevar a reconsiderar la singularidad del sistema sancionador y su irreductibilidad a una mera e inevitable accesorio del impuesto que se está imponiendo.

En este sentido, cabe recordar que las sanciones fiscales tienen carácter penal. Así lo confirman tanto los principios que sirvieron de base al Decreto Legislativo 472/1997, que son los de las sanciones penales, como la ya conocida dirección supranacional, que califica las sanciones administrativas caracterizadas por un alto grado de aflicción como esencialmente criminales,⁶⁸ como aquellos impuestos cuyo importe mínimo en nuestro sistema equivale -por regla general- hoy al 70% del impuesto evadido.

Cabe señalar también que la atribución de sanciones tributarias administrativas a la categoría de sanciones esencialmente penales se ha valorado hasta ahora en relación con perfiles principalmente procesales, pensemos en el reglamento ne bis in idem, pero sólo ha afectado esporádicamente al fondo del reglamento. sobre la determinación del importe de la sanción y el procedimiento de imposición. Por el contrario, el carácter penal de las sanciones tributarias debe sustentar la interpretación y aplicación de todas las disposiciones del Decreto Legislativo 472/1997 y, por tanto, influir en la forma misma en que estas sanciones se conciben y luego encuentran aplicación concreta. Esta consideración, fundamental como se dirá inmediatamente para la discusión sobre los usos de la inteligencia artificial en la materia, trae consigo la consecuencia de la imposibilidad de atribuir plenamente la función sancionadora a la explicación de una mera actividad administrativa. Existe una diferencia ontológica entre impuesto y sanción, que se pone de manifiesto por el carácter penal de esta última, lo que hace que el procedimiento de determinación e imposición correspondiente escape a un enfoque estrictamente administrativo.

Si es cierto que la sanción es aplicada por la Administración financiera durante un procedimiento, que es el mismo que conduce a la recuperación del impuesto, también lo es que se trata de una actividad típicamente judicial, que en el proceso penal es el juez quien realiza y que por esta razón no puede reducirse por completo a la primera. Tanto es así que la misma jurisprudencia supranacional mencionada anteriormente distingue claramente entre impuesto y sanción al identificar las protecciones, procesales pero también procedimentales, reconocibles para el contribuyente⁶⁹

Por tanto, el hecho de que las sanciones fiscales sean sustancialmente penales es una constatación que incide tanto en la actividad encaminada a su aplicación, que implica un perfil de evaluación evidente y muy diferente del que atañe a la determinación del impuesto, como en las protecciones reservadas a el contribuyente. Aquí es donde entra la reflexión sobre el uso de algoritmos.

El uso de la inteligencia artificial en el proceso de determinación e imposición de sanciones sufre -en cierto modo al amplificarlas- los mismos problemas ya subrayados por muchos (y ampliamente mencionados anteriormente) en relación con la automatización de la actividad administrativa provisional.

La solución que a menudo se propone consiste en sortear la caja negra valorizando la intervención humana: esto permitiría, de hecho, separar la evaluación de un supuesto mecanismo inducido por el algoritmo, haciendo retroceder todo el proceso, de una manera muy tranquilizadora. camino, a la síntesis humana, aunque ayudada por el procesamiento digital. Como hemos visto, es precisamente sobre esta supuesta reapropiación de la función sancionadora por parte del ser humano que la Corte Suprema de Wisconsin consideró legítima la aplicación de Compass al acusado Loomis. Sin embargo, son bien conocidas las críticas a este enfoque, consideradas excesivamente optimistas: el procesamiento por parte del algoritmo, al estar rodeado de un aura de objetividad, influye en la actitud del operador humano, empujándolo a confirmar el resultado, también debido al esfuerzo motivacional. que inevitablemente le impondría una posición diferente.⁷⁰

El panorama parece muy problemático, hasta el punto de llevarnos a creer que no hay espacio para el uso de la inteligencia artificial en el contexto del procedimiento sancionador, salvo a riesgo de que se produzca ese fenómeno que efectivamente se ha definido como ” privatización de las sanciones”⁷¹con clara referencia a la atribución a sujetos privados del poder de influir, de hecho sin controles públicos, en el proceso de aplicación de las sanciones, con todas las repercusiones en términos de opacidad, discriminación, etc. Lo que se acaba de decir con referencia al fenómeno del aprendizaje automático nos permite ir aún más lejos, en el sentido de eliminar por completo la posibilidad de influir en el proceso de aplicación de sanciones respecto de todos los actores implicados, sin duda el contribuyente, pero también el Administración financiera e incluso la empresa que creó el algoritmo. Un escenario verdaderamente preocupante, para el mantenimiento de derechos, que sólo puede impactar en el juicio sobre la utilidad de los sistemas inteligentes en materia sancionadora tributaria.

Excluyendo una función sustitutiva del algoritmo en la determinación e imposición de la sanción -posible, quizás, sólo en el escenario actual, que como hemos dicho debe ser fuertemente criticado, de allanamiento de la sanción como mero accesorio del impuesto-, incluso su auxiliar El papel de la actividad del operador humano parece, al menos en el contexto actual, difícil de formular hipótesis. El riesgo de que este operador se base en el resultado del procesamiento digital sin someterlo a un control crítico es alto, especialmente dada la falta de importancia que la parte sancionadora del auto de liquidación manifiesta, de hecho, con respecto a la recuperación del impuesto y a la motivación relacionada impide un examen crítico serio de los resultados de dicho procesamiento, incluso en la fase jurisdiccional. En definitiva, es evidente la posibilidad de una vulneración de derechos individuales en relación con la aplicación de una sanción claramente punitiva.

Como ya se ha mencionado, no se deben aceptar tesis excesivamente reaccionarias. Poner en el centro la dimensión de la protección, inevitable en el contexto sancionador, no significa rechazar por completo la contribución que las nuevas tecnologías pueden ofrecer a la eficiencia del procedimiento administrativo tributario. Se trata de establecer con cuidado -y de manera realista, hay que añadir- los límites dentro de los cuales esto debe tener lugar para no subvertir los fundamentos de principios del sistema. Pues bien, tal vez sea posible encontrar un compromiso aceptable refiriéndose, como se mencionó al principio de este escrito, a dos aspectos: el de recuperar la dimensión personalista original de la disciplina sobre las sanciones fiscales; y el del control -de comprobación, como diríamos en la jerga penal- de los resultados del tratamiento automatizado antes de la imposición de la sanción.

Combinando estos dos factores, se podría entonces plantear la hipótesis de separar de una vez por todas la recuperación del impuesto de la imposición de la sanción, generalizando el uso del instrumento del acto de disputa a que se refiere el art. 16 del Decreto Legislativo 472/1997 y en su lugar hacer inmediata la imposición de conformidad con el art. 17 bastante excepcionales, limitados a casos más simples.

De este modo, la Administración financiera bien podría utilizar sistemas basados ​​en inteligencia artificial como ayuda para llevar a cabo los controles y evaluaciones impuestos por el carácter personalista del sistema sancionador en virtud del Decreto Legislativo 472/1997. Al mismo tiempo, el esfuerzo motivacional del acto de impugnación debería permitir al operador humano recuperar toda la responsabilidad a este respecto, evitando esa rendición a los resultados de la evaluación algorítmica a la que se ha hecho referencia varias veces, si no al precio de un defecto motivacional capaz de tener un impacto negativo en la validez del acto mismo.

El paso por la notificación previa del acto impugnado sería entonces funcional para realizar un contrainterrogatorio preventivo con el contribuyente, previendo quizás – por necesidad de mayor protección – que en el caso del tratamiento automatizado no se limite a la mera comparación por escrito, sino que se deberán celebrar una o más reuniones, a fin de lograr la completa divulgación por parte de la Oficina y la efectiva interlocución por parte del contribuyente. Una situación de este tipo tendría la ventaja de debilitar fuertemente los riesgos evocados para el mantenimiento de los derechos del sujeto sancionado total o parcialmente gestionados a través de un algoritmo, tanto para las cargas motivacionales que, como se mencionó, deberían caracterizar el acto de controversia, tanto para la discusión propiamente dicha entre las oficinas y el contribuyente sobre el monto de la sanción que se espera imponer.

Así, se podría recurrir tranquilamente a la inteligencia artificial, disipando de entrada la impresión de oscuridad (y, en consecuencia, de peligro) que suscita, y potenciando los efectos de garantía que crean la motivación y el contrainterrogatorio. Todo esto, vale repetir, en un contexto de plena recuperación de la estructura deseada por el legislador de la reforma hacia una consideración particular de la sanción tributaria y de los elementos necesarios para su evaluación.

Por último, también habría consecuencias favorables a nivel procesal. El contrainterrogatorio que ya se ha producido entre las partes liberaría a los Tribunales de Justicia Fiscal de la difícil tarea de pronunciarse sobre los resultados de oscuros procesos algorítmicos amparados por impenetrables derechos de propiedad industrial, devolviendo su actividad a un ámbito más conocido y contexto tranquilizador. Al mismo tiempo, sin embargo, la sentencia podría finalmente concentrarse en la evaluación de la corrección de la propia sanción, sin las limitaciones derivadas de la sentencia sobre el impuesto que hasta ahora han robado constantemente la escena, reforzando la recuperación ya subrayada de la función sancionadora a que se refiere el Decreto Legislativo 472/1997 y disipando cualquier duda sobre el pleno funcionamiento, en el marco de la presente sentencia, de las disposiciones del debido proceso a que se refiere el art. 6 CEDH.⁷² Por supuesto, la división – que aquí se propone – entre sentencias sobre la liquidación y aquellas sobre la sanción corre el riesgo de aumentar la ya pesada carga de los tribunales de justicia fiscal: en este sentido, la reciente reforma del proceso fiscal podría constituir el motor , con la profesionalización de la clase judicial fiscal, para una mayor eficiencia capaz de absorber, a medio plazo, este mayor compromiso profesional.

Por tanto, la propuesta parece viable a nivel regulatorio y aceptable en términos del grado de protección de los contribuyentes frente al uso de algoritmos para ejercer la función sancionadora.⁷³ Por supuesto, se impone un esfuerzo organizativo a la Administración financiera, llamada a realizar actividades que hasta ahora han sido sustancialmente descuidadas, pero después de todo no se puede pensar en respaldar una práctica que devalúa el sistema regulatorio simplemente por supuestas dificultades organizativas de las oficinas. Esta propuesta tiene el mérito de poner diligentemente en el punto de mira la cuestión de los derechos, que en el contexto de las sanciones parece incluso más urgente que en el del propio impuesto, y de construir sobre esta base un procedimiento que no innova el sistema y al mismo tiempo, también en este ámbito se aporta información sobre las ventajas que prometen las nuevas tecnologías.

A nivel teórico, es entonces coherente con las directrices que, a partir de ahora, reconstruyen el paradigma de la relación fiscal ya no en términos meramente autoritarios, en favor de formas de colaboración – y por tanto consensualistas – de interacción entre los distintos actores de la relación tributaria. La solución propuesta, por un lado, sigue manteniendo el papel de los sistemas inteligentes para guiar las evaluaciones de la Administración financiera en materia de sanciones; por otro, es creíble en la parte en que se inserta profundamente en un proceso que caracteriza desde hace algunos años el derecho tributario, tanto a nivel internacional como interno, y que enfatiza las formas de interlocución preventiva entre la Administración financiera y el contribuyente.