analysis of texts · Studia Prawa Publicznego · la publicación, 1 jul 2026 · gratis
Un "sí" humano que no revisa nada: qué encontraron los tribunales europeos sobre las decisiones automáticas
La ley europea exige que una persona supervise las decisiones de software. Un análisis sostiene que, en la práctica, esa persona muchas veces solo firma lo que el sistema ya decidió.
Versión breve · la versión detallada sigue, unos 7 min
- El estudio, de un vistazo
- Quiénes
- un análisis jurídico sobre la supervisión humana de decisiones automáticas
- Cuántos
- no se midió cuántas veces ocurre ni en qué países
- Dónde
- Unión Europea
- Cuándo
- 2026
- Tipo de estudio
- análisis jurídico
- Quién lo hizo
- Universidad de Warmia y Mazuria, Polonia
- El límite que importa
- Es un análisis europeo y académico; no dice qué exige su país ni a qué autoridad acudir donde usted vive.
En los Países Bajos, un tribunal revisó un sistema que se usaba para detectar fraudes en beneficios sociales y concluyó que violaba los derechos de las personas: no había transparencia y no se podía cuestionar de verdad lo que el sistema resolvía. En Italia, un tribunal examinó decisiones laborales tomadas con algoritmos en una plataforma de reparto y señaló que podían discriminar cuando faltaban mecanismos efectivos de control y verificación. En ambos casos, el problema no era que hubiera una persona en el proceso, sino que esa persona no tenía poder real para cambiar el resultado.
Sobre esa base, Martyna Kaczmarczyk, de la Universidad de Warmia y Mazury, en Polonia, examinó en un artículo académico el modelo llamado "Human-in-the-Loop" —una persona dentro del circuito de la decisión— bajo el Reglamento europeo de Inteligencia Artificial y el Reglamento General de Protección de Datos. La pregunta central: cuando un sistema automático decide sobre un préstamo, un beneficio o un empleo y alguien solo aprieta "aprobar", ¿existe de verdad una revisión humana?
Su respuesta es que, en muchos casos, no. La persona solo autoriza formalmente lo que el algoritmo produjo, sin capacidad real de cuestionarlo ni de cambiarlo. El trabajo lo hace el sistema; el ser humano presta su firma. El artículo menciona varias razones: la complejidad de los modelos, la falta de información sobre cómo funcionan, la tendencia a confiar en la recomendación de la máquina y la presión de la organización, como la falta de tiempo, de formación o de recursos.
Aquí conviene ser claros. Este análisis es sobre derecho de la Unión Europea: no dice qué exige su propio país ni qué puede usted presentar en Colombia, México, Brasil, Estados Unidos o Canadá. Tampoco es asesoría legal: no indica a qué oficina acudir ni qué procedimiento iniciar. Y no reporta ningún fallo nuevo que obligue directamente a empresas o autoridades fuera de Europa.
Lo que sí ofrece es una idea que puede citarse. Si su país llega a adoptar o mencionar estándares parecidos, usted podría argumentar, al impugnar una decisión automática, que la revisión humana debe ser real y no un simple clic. El artículo también propone tres condiciones para que esa revisión cuente: que la persona tenga conocimientos para evaluar el sistema, acceso a información que le permita entender la decisión, y poder efectivo para cambiarla o rechazarla.
Ante una negativa de crédito o de un beneficio decidida por software, la pregunta útil es esta: ¿quién revisó mi caso, con qué información y qué podía cambiar?
Qué significa para usted
Cuando enfrente una negativa de crédito, un beneficio o un empleo decidida por un sistema automático en su país, conviene preguntar quién revisó su caso, con qué información contaba y qué podía cambiar. Todavía no hay un fallo que obligue a autoridades fuera de Europa, así que por ahora solo puede observar si su país adopta estándares parecidos y reclamar, llegado el caso, que esa revisión sea real y no un simple trámite.
Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2
Quién pagó: El artículo no dice quién financió el estudio, si los financiadores tuvieron alguna influencia, ni quién prestó equipos o software.
Los hallazgos de otros estudios que aquí se mencionan los conocemos por este documento, que fue el que leímos; no abrimos cada uno de esos estudios.
Versión detalladaLos pasajes copiados del artículo, las ilustraciones y cada fuente con cuánto leímos de ella · 1302 palabras · unos 7 minLeerla →Cerrar
Una persona que solo firma no es un supervisor: lo que el derecho europeo empieza a exigir cuando un programa decide sobre su préstamo
Un análisis académico sostiene que la revisión humana de las decisiones automáticas puede ser un sello de goma, y propone criterios para distinguir el control real de la ilusión.
La investigadora Martyna Kaczmarczyk, de la Universidad de Warmia y Mazuria, en Polonia, publicó en 2026 un análisis jurídico sobre una pregunta que suena técnica pero toca el bolsillo de cualquiera: cuando un programa decide si usted recibe un crédito o un beneficio, ¿basta con que una persona apriete "aprobar"? El artículo examina la figura conocida como Human-in-the-Loop, o humano dentro del circuito, y concluye que en muchos usos reales cumple una función sobre todo simbólica: se limita a autorizar de manera pasiva lo que ya decidió el algoritmo, sin capacidad verdadera de cuestionarlo ni de cambiarlo1. El trabajo no midió cuántas veces ocurre esto ni en qué países.
Conviene entender primero qué es esa figura. Desde el punto de vista técnico, el humano dentro del circuito describe sistemas de inteligencia artificial en los que una persona participa en algún momento del proceso, y esa participación puede ir desde etiquetar los datos con los que se entrena el programa, pasando por validar sus resultados, hasta tomar la decisión final a partir de la recomendación del algoritmo2. Existen además variantes con nombres propios: en el modelo "humano sobre el circuito" la persona vigila cómo funciona el sistema, y en el "humano al mando" mantiene una autoridad estratégica por encima de él3. La diferencia entre todos ellos no está en que haya alguien presente, sino en cuánto puede realmente esa persona torcer el resultado.
El hallazgo central del artículo es que la ley europea nombra el problema pero no lo resuelve. Las normas sobre inteligencia artificial y las reglas de protección de datos hablan de "supervisión humana" y de "intervención humana", pero no precisan qué criterios debe cumplir esa supervisión para considerarse efectiva4. Esa vaguedad es la puerta por la que entra la ilusión de control.
En el caso europeo, el Reglamento General de Protección de Datos establece que una persona tiene derecho a no quedar sometida a decisiones basadas únicamente en el tratamiento automatizado cuando esas decisiones le produzcan efectos jurídicos o la afecten de manera similar e importante5. Cuando ese tipo de decisión se permite, hay que garantizarle al menos el derecho a obtener la intervención de una persona, a expresar su punto de vista y a impugnar la decisión6. La pregunta que sigue es qué significa "intervención".
La respuesta que recoge el artículo es exigente. La doctrina jurídica insiste en que esa intervención debe ser real: quien revisa tiene que poder entender los fundamentos de la decisión y adoptar una determinación autónoma, no limitarse a confirmar lo que arrojó el sistema7. Y los tribunales y las autoridades de control han ido en la misma dirección: para que una decisión no se considere "exclusivamente automatizada", la participación humana debe ser efectiva y significativa, de modo que la persona revisora pueda no solo aprobar formalmente el resultado, sino comprenderlo y, si hace falta, cambiarlo8.
Aquí aparece la consecuencia práctica que más debería importarle a un lector fuera de Europa. Cuando la supervisión es aparente, puede vulnerarse el derecho a un procedimiento justo y a un recurso efectivo, y además se vuelve difícil atribuir responsabilidad por los errores: la firma de una persona puede terminar usándose como argumento para eximir de responsabilidad al tratamiento automático9. Dicho de otro modo, el sello humano no protege al afectado; protege a quien opera el sistema.
Vale la pena imaginar cómo se ve esto en un trámite concreto. En un sistema de puntuación crediticia, un analista tiene delante la recomendación del algoritmo y un tiempo limitado; la complejidad del modelo dificulta entender por qué salió ese resultado, y la presión de la jornada empuja a aceptar. El artículo señala que el sesgo de automatización, la asimetría de información y las limitaciones cognitivas de quienes operan refuerzan la supervisión meramente formal1. No es que el analista sea negligente: es que el diseño del trámite hace que dudar cueste más que firmar.
Frente a ese diagnóstico, el artículo propone qué debería medirse. Entre los indicadores posibles menciona la frecuencia con que las personas intervienen, la calidad de las decisiones que toman y su nivel de comprensión del funcionamiento del sistema10. La lógica es sencilla: si nadie cambia nunca nada, cabe preguntarse si alguien está revisando de verdad.
También propone reformas: exigir herramientas que hagan más transparente el funcionamiento de los modelos, capacitar mejor a quienes supervisan y reservar la intervención humana para los casos de mayor riesgo o de mayor incertidumbre del sistema. Y sugiere fijar criterios medibles de eficacia, de modo que el cumplimiento no se agote en la forma.
*Aquí hablamos nosotros. Así lo leemos.*
Lo que este análisis describe no es un defecto de una ley concreta, sino una costumbre que se está instalando: cuando una decisión importante se apoya en un número, dejamos de preguntar si ese número explica lo que dice explicar. En un trámite de crédito o de beneficios, es razonable esperar que quien revisa mire el puntaje y no la lógica detrás, y que el expediente se sienta completo aunque nadie haya entendido por qué salió ese resultado. ¿Cómo sabríamos que nos equivocamos? Si en esos trámites la persona revisora pidiera explicaciones sobre cómo se calculó el puntaje, señalara casos donde la coincidencia no prueba nada, o cambiara el resultado con argumentos propios. Usted puede hacer algo con esto desde hoy: cuando reciba una decisión automática sobre un préstamo, un beneficio o un trabajo, pida por escrito qué datos se usaron y cómo se llegó a ese resultado, y pregunte si alguien revisó su caso o solo lo firmó. Si la respuesta es vaga o se limita a repetir el puntaje, eso ya es información útil para reclamar.
Hay una segunda capa que conviene mirar con atención. Las instituciones van entregando a las máquinas no solo las tareas repetitivas, sino también las decisiones incómodas, y lo hacen presentándolas como neutrales y sin culpa. La máquina aparece como limpia e imparcial; las personas, como frágiles y sesgadas. En ese relato, la firma humana cumple una doble función: se muestra al público como prueba de que hubo juicio humano, y se guarda como respaldo por si algo sale mal. Cabe esperar, entonces, que le respondan que "el sistema lo decidió" y, al mismo tiempo, que "una persona lo aprobó". Vale la pena pedir por escrito en qué consistió esa aprobación: quién revisó, con qué información y cuánto tiempo tuvo. Usted puede detectar por su cuenta si la revisión fue real o decorativa: si quien atendió no puede explicarle con palabras sencillas por qué le negaron el crédito, probablemente nadie lo entendió tampoco antes de firmar.
Lo que esto le deja
Este análisis es europeo y académico: no le dice qué exige su propio país ni a qué autoridad acudir donde usted vive, y no es un fallo nuevo que pueda invocarse en un caso fuera de la Unión Europea. Pero le deja una idea que viaja bien: una persona que solo firma no es un supervisor. La próxima vez que una empresa o una oficina le diga que su solicitud fue evaluada por un sistema con revisión humana, pida por escrito el nombre y el cargo de quien la revisó, los datos que se usaron y las razones del resultado, y guarde copia de todo. Si la respuesta es incomprensible o invoca secreto comercial, lleve ese documento a una oficina de protección al consumidor o de protección de datos y pregunte qué derechos tiene en su país.
¿Puede explicarme, en palabras que yo entienda, por qué se tomó esta decisión sobre mí?
De dónde sale cada dato de contexto, y cuánto leímos de cada documento
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "This phenomenon is reinforced by factors such as automation bias, informational asymmetry, and the cognitive limitations of human operators. As a result, there is a significant risk of violations of individual rights, including the right to a fair procedure and the right to an effective remedy."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Z perspektywy technicznej HITL odnosi się do takich architektur systemów AI, w których człowiek uczestniczy w określonym etapie ich działania. Udział ten może przyjmować różne formy – od oznaczania danych treningowych, przez walidację wyników, aż po podejmowanie ostatecznych decyzji na podstawie rekomendacji algorytmu"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "W literaturze wyróżnia się także modele pokrewne, takie jak Human-on-the-Loop, gdzie człowiek monitoruje działanie systemu, oraz Human-in-Command, zakładający nadrzędną, strategiczną kontrolę człowieka nad jego funkcjonowaniem"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Jednakże jednak przepisy nie precyzują w sposób jednoznaczny, jakie kryteria musi spełniać taki nadzór, aby można było uznać go za efektywny."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Zgodnie z art. 22 RODO osoba, której dane dotyczą, ma prawo do niepodlegania decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli wywołują one wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływają"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "W takich przypadkach konieczne jest zapewnienie co najmniej prawa do uzyskania interwencji człowieka, wyrażenia własnego stanowiska oraz zakwestionowania decyzji."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "W doktrynie podkreśla się, że interwencja ta musi mieć charakter rzeczywisty, co oznacza, że osoba dokonująca oceny powinna być w stanie zrozumieć podstawy decyzji oraz podjąć autonomiczną decyzję, a nie jedynie potwierdzić wynik działania systemu"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Sądy i organy nadzorcze podkreślają, że aby decyzja nie była uznana za „wyłącznie zautomatyzowaną”, udział człowieka musi mieć charakter rzeczywisty i znaczący. Oznacza to, że osoba dokonująca oceny powinna być w stanie nie tylko formalnie zatwierdzić wynik, lecz także go zrozumieć i – w razie potrzeby – zmienić"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Pozorny nadzór może prowadzić do naruszenia praw jednostki, w tym prawa do rzetelnej procedury oraz skutecznego środka odwoławczego. Ponadto utrudnia on przypisanie odpowiedzialności za błędne decyzje, gdyż formalna obecność człowieka może być wykorzystywana jako argument wyłączający odpowiedzialność za automatyczne przetwarzanie danych."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - el artículo del que trata esta nota — el artículo completo — el pasaje: "Mogłyby one obejmować m.in. częstotliwość ingerencji człowieka, jakość podejmowanych decyzji czy poziom zrozumienia działania systemu"
Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2
Quién pagó: El artículo no dice quién financió el estudio, si los financiadores tuvieron alguna influencia, ni quién prestó equipos o software.
Los hallazgos de otros estudios que aquí se mencionan los conocemos por este documento, que fue el que leímos; no abrimos cada uno de esos estudios.
analysis of texts · Studia Prawa Publicznego · the paper, 1 Jul 2026 · free
A Person Clicked Approve. Courts Called That Not Enough.
In the Netherlands and Italy, judges found that automated decisions about benefits and work violated people’s rights because those people could not effectively challenge them.
Short version · the longer version follows, about 1 min
- The study at a glance
- Who
- EU law and court decisions on automated decisions
- How many
- two EU laws (AI Act and GDPR) and court cases from two countries
- Where
- European Union, Netherlands, Italy
- When
- 2026
- Kind of study
- analysis of what people did
- Who did it
- University of Warmia and Mazury in Olsztyn, Poland
- The limit that matters
- No new experiment or ruling; based on legal texts and past cases.
Was the human review real, or just a click?
The article describes a study in which a court in the Netherlands looked at SyRI, a system used to hunt for welfare fraud. It violated people’s rights. The problem was not that a machine was involved. The problem was that the system was not transparent, and people could not effectively challenge what it decided about them.
The article describes a study in which a court in Italy examined how the delivery platform Deliveroo used an algorithm called Frank to manage riders. Judges warned that decisions made by algorithms can lead to discrimination when there are no effective ways to check and question them.
In both cases, a human did not really have power over the outcome.
A scholarly article by Martyna Kaczmarczyk of the University of Warmia and Mazury in Poland now examines the “Human-in-the-Loop” model under two European Union laws: the AI Act and the GDPR. That model puts a person into the decision process. The question the article asks is whether that person provides meaningful oversight, or whether the oversight is only on paper.
The article finds that in many cases the person only formally approves what the algorithm produced. The author calls this a rubber stamp. The article describes a study in which three things push it along: people tend to trust machine recommendations too readily; they often lack full information about how the model works; and they face time pressure.
The conclusions come from a legal analysis of EU rules, plus examples such as credit scoring. The article reports no new experiment and no new ruling.
The article also looks at national court decisions from the Netherlands and Italy, and at international standards.
The article describes a study in which three ingredients of real human control are argued for: the reviewer must have the knowledge to judge the system, access to information to understand the decision, and the actual power to change or reject the result.
If your country adopts or cites similar standards, that idea could be yours to use when you challenge an automated decision: Was the human review real, or just a click?
What this means for you
For now, this is a European legal analysis, not a change in what your own country's authorities say, so nothing yet tells you what a company there may do with your face, voice, data or work. Watch for whether your country adopts or cites similar standards. When you face an automated decision, ask whether the human review was real or just a click.
Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2
Who paid: The article does not say who funded the study, whether funders had any say, or who lent equipment or software.
The findings of other studies mentioned here are known to us through this document, which is the one we read; we did not open each of those studies.
The longer versionThe passages copied from the paper, the pictures, and every source with how much of it we read · 37 words · about 1 minRead it →Close
A Human Clicked "Approve." EU Law Says That May Not Count as Oversight.
European rules require real human review of automated decisions. A new legal analysis argues that in practice, the human is often just signing off.
The rule sounds simple enough. When software decides something important about you — whether you get a loan, whether you keep a benefit — a person is supposed to be in the loop, able to look at the machine's recommendation, understand it, and change it if it is wrong. A new legal analysis by Martyna Kaczmarczyk of the University of Warmia and Mazury in Poland asks whether that person is really there, or only appears to be. The article appears in the journal Studia Prawa Publicznego. Its title names the worry directly: the illusion of control.
The article's answer is uncomfortable. In many real uses, the author argues, the human in the loop performs a largely symbolic function — passively authorizing what the algorithm already decided, without any real capacity to question or modify it. Three forces push it that way, according to the article: automation bias, informational asymmetry, and the cognitive limits of the people doing the reviewing. The result, it warns, is a significant risk of violations of individual rights, including the right to a fair procedure and the right to an effective remedy.
Start with what the technology actually is. "Human-in-the-Loop" describes systems built so that a person takes part at some stage of the AI's operation<sup>1</sup>. That participation can mean many different things: labeling training data, validating results, or making the final decision based on the algorithm's recommendation<sup>1</sup>. Related models exist alongside it — "Human-on-the-Loop," where the person monitors the system rather than approving each output, and "Human-in-Command," where a person holds overriding strategic control<sup>2</sup>. What matters, the article stresses, is not the formal presence of a human but the scope of their competence and their actual influence on the result.
Now the law. Under Article 22 of Europe's General Data Protection Regulation, a person has the right not to be subject to a decision based solely on automated processing when it produces legal effects or similarly significantly affects them<sup>3</sup>. Where such a decision is allowed, the rules require at least a right to obtain human intervention, to express one's own point of view, and to contest the decision<sup>4</sup>. Legal scholars insist that this intervention must be real — the reviewing person should be able to understand the grounds of the decision and make an autonomous call, not merely confirm what the system produced<sup>5</sup>. Courts and supervisory bodies have said the same: to avoid the decision counting as "based solely" on automation, the human's role must be real and meaningful, which means the reviewer should be able not just to formally approve the result but to understand it and, if needed, change it<sup>6</sup>.
Here is the gap. The article notes that the rules do not spell out clearly what criteria oversight must meet to count as effective<sup>7</sup>. That silence matters, because it leaves room for a minimal, symbolic version of human involvement to satisfy the letter of the law. And when oversight is only apparent, the consequences run beyond the individual case: the article warns that it can violate the right to a fair procedure and to an effective remedy, and can also make it harder to assign responsibility for wrong decisions, since the formal presence of a human may be used as an argument to shield the automated processing from liability<sup>8</sup>.
The article is a scholarly legal analysis, not a measurement. It works through European Union law — the AI Act and the data protection regulation — and illustrates its argument with selected examples, including credit scoring. It does not count how often oversight is merely formal, in Europe or anywhere else, and it reports no new court ruling or regulator decision. It is about EU law only. It says nothing about what the law in Latin America, the United States or Canada requires, and it cannot tell anyone which procedure to file or which authority to contact.
Here is how we read it. The pattern is familiar from ordinary life: when a person is asked to approve a decision a machine has already made, they tend to go along with it — especially when they are rushed, when the machine's reasoning is hidden, and when they assume the machine knows better. The approval becomes a formality. We expect that in banks and agencies across Latin America, the United States and Canada that use scoring software with a human "reviewer," that reviewer will in practice almost always confirm the software's recommendation, so the human step will not change outcomes for applicants. We could be wrong: evidence that reviewers regularly overturn or modify recommendations — or that applicants who ask for human review actually get different results — would show the pattern does not hold. What you can do with this is concrete. When a bank or agency tells you a person reviewed your case, ask what that person actually changed, what information they had in front of them, and how long they spent. Ask for the reasons in writing.
There is a second way to read it. The "human in the loop" is often an overstretched worker — or the applicant themselves, doing unpaid work to correct and contest the system — while the institution describes the process as automated and objective. We expect that to be true of loan and benefits software in our region too. We could be wrong: if the reviewer turns out to be a well-resourced, independent decision-maker with real power to change outcomes, and applicants are not made to do the work of fixing the system's errors, the expectation fails. So ask who exactly the human in the loop is, what they are paid to do, and whether you are being made to do the system's work for it. Keep copies of everything you submit.
The article points toward what would have to change if the requirement is to mean something. It proposes measuring the effectiveness of oversight through concrete indicators — among them how often humans intervene, the quality of the decisions they make, and how well they understand how the system works<sup>9</sup>. Separately, the article notes that ISO/IEC standards exist as voluntary international guidelines: they carry no force of law on their own, and organizations are not obliged to follow them. In those standards, indicators of intervention frequency are used to monitor how often a human needs to step into an algorithmic system's operation — counting corrections of decisions, cases escalated to an operator, or situations requiring manual verification.
The most useful thing we can offer is a question you can carry to any institution that tells you a person reviewed your case. The strongest protections in our countries are likely to come not from waiting for new AI-specific laws but from ordinary people bringing complaints under the consumer, data-protection and due-process rules that already exist — and courts and regulators can only decide the cases someone actually brings. So before you accept "a human looked at it," ask for the reasons in writing and ask what that human changed. If the answer is nothing, that is your starting point.
---
Where each piece of context comes from, and how much of it we read
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Z perspektywy technicznej HITL odnosi się do takich architektur systemów AI, w których człowiek uczestniczy w określonym etapie ich działania. Udział ten może przyjmować różne formy – od oznaczania danych treningowych, przez walidację wyników, aż po podejmowanie ostatecznych decyzji na podstawie rekomendacji algorytmu"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "W literaturze wyróżnia się także modele pokrewne, takie jak Human-on-the-Loop, gdzie człowiek monitoruje działanie systemu, oraz Human-in-Command, zakładający nadrzędną, strategiczną kontrolę człowieka nad jego funkcjonowaniem"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Zgodnie z art. 22 RODO osoba, której dane dotyczą, ma prawo do niepodlegania decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli wywołują one wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływają"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "W takich przypadkach konieczne jest zapewnienie co najmniej prawa do uzyskania interwencji człowieka, wyrażenia własnego stanowiska oraz zakwestionowania decyzji."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "W doktrynie podkreśla się, że interwencja ta musi mieć charakter rzeczywisty, co oznacza, że osoba dokonująca oceny powinna być w stanie zrozumieć podstawy decyzji oraz podjąć autonomiczną decyzję, a nie jedynie potwierdzić wynik działania systemu"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Sądy i organy nadzorcze podkreślają, że aby decyzja nie była uznana za „wyłącznie zautomatyzowaną”, udział człowieka musi mieć charakter rzeczywisty i znaczący. Oznacza to, że osoba dokonująca oceny powinna być w stanie nie tylko formalnie zatwierdzić wynik, lecz także go zrozumieć i – w razie potrzeby – zmienić"
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Jednakże jednak przepisy nie precyzują w sposób jednoznaczny, jakie kryteria musi spełniać taki nadzór, aby można było uznać go za efektywny."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Pozorny nadzór może prowadzić do naruszenia praw jednostki, w tym prawa do rzetelnej procedury oraz skutecznego środka odwoławczego. Ponadto utrudnia on przypisanie odpowiedzialności za błędne decyzje, gdyż formalna obecność człowieka może być wykorzystywana jako argument wyłączający odpowiedzialność za automatyczne przetwarzanie danych."
- Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2 - the article this story is about — the whole article — the passage: "Mogłyby one obejmować m.in. częstotliwość ingerencji człowieka, jakość podejmowanych decyzji czy poziom zrozumienia działania systemu"
Kaczmarczyk, M. (2026). Iluzja kontroli: czy Human-in-the-Loop spełnia wymogi realnego nadzoru człowieka w świetle prawa UE?. Studia Prawa Publicznego. https://doi.org/10.14746/spp.2026.2.54.2
Who paid: The article does not say who funded the study, whether funders had any say, or who lent equipment or software.