From b887f61c6c7297d34fb9e9f453c9a2b32b161e74 Mon Sep 17 00:00:00 2001 From: vitaliytv Date: Sun, 9 Aug 2026 08:14:29 +0300 Subject: [PATCH] docs(adr): brainstorm session delta-ai-human-orchestration MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Фіксація brainstorming-сесії фреймворку «Дельта»: оркестрація людей і ШІ за когнітивної переваги ШІ. 66 ідей у 10 кластерах; хребет — директорська модель відповідальності (ШІ вирішує, директор відповідає за організацію). Co-Authored-By: Claude Fable 5 --- ...809-081009-delta-ai-human-orchestration.md | 150 ++++++++++++++++++ 1 file changed, 150 insertions(+) create mode 100644 docs/adr/20260809-081009-delta-ai-human-orchestration.md diff --git a/docs/adr/20260809-081009-delta-ai-human-orchestration.md b/docs/adr/20260809-081009-delta-ai-human-orchestration.md new file mode 100644 index 0000000..fd7da58 --- /dev/null +++ b/docs/adr/20260809-081009-delta-ai-human-orchestration.md @@ -0,0 +1,150 @@ +--- +type: ADR +title: "Дельта: фреймворк оркестрації людей і ШІ за когнітивної переваги ШІ" +--- + +# Дельта: фреймворк оркестрації людей і ШІ за когнітивної переваги ШІ + +**Status:** Accepted +**Date:** 2026-08-09 + +## Context and Problem Statement + +Потрібна мисленнєва модель (фреймворк) для системи з робочою назвою «Дельта»: оркестрація задач між ШІ та людьми для досягнення верхньорівневої мети (наприклад, мети комерційного підприємства), де ШІ та люди працюють паралельно. Базове припущення сильніше, ніж у [vision.md](../vision.md): **ШІ перевершує когнітивні здібності людей, але не закриває їх повністю** — і схема оркестрації має бути скоригована саме на цю перевагу, а не будуватись навколо людського процесу. + +Призначення результату: універсальна модель + пілот на власному підприємстві. MT ([vision.md](../vision.md), [mandates.md](../architecture/mandates.md)) — наявна реалізація «інверсії делегування» — слугує субстратом і джерелом механік (мандати, decision-request, ескалація за важелем, прецедентний рушій, модельний каскад). + +## Considered Options + +- **Дельта як розрив легітимності й відповідальності** — людина в системі не тому, що розумніша, а тому, що лише вона є носієм відповідальності; хребет — директорська модель відповідальності (кластери 1–2). +- **Дельта як розрив когнітивності** — людина як «розумніший контролер» ШІ; відкинуто, бо суперечить базовому припущенню сесії. +- **Дельта як тимчасовий перехідний стан** — людські ролі лише до досягнення повного паритету; відкинуто як підмножина першого варіанта (паритет-трекінг і «остання константа» покривають еволюцію межі). + +## Decision Outcome + +Chosen option: **«Дельта як розрив легітимності й відповідальності, з директорською моделлю відповідальності як хребтом»**, because: + +1. Вона узгоджена з базовим припущенням (когнітивна перевага ШІ) і не потребує, щоб людина «перевіряла розумнішого» — людські гейти виправдані легітимністю, а не здатністю судити краще. +2. Директорська модель (ідея 66) працює вже сьогодні в людських організаціях: неважливо, хто саме ухвалив рішення — відповідальність несе директор. У Дельті ШІ може ухвалювати рішення, зокрема володіти мандатами, але відповідальність за протиправне рішення несе директор — за те, що не організував роботу так, щоб протиправних рішень не було. +3. Вона розв'язує внутрішні напруги каталогу: скін-у-гру для ШІ (53) стає ринковим інструментом хеджування директорської відповідальності, а не фундаментом; у парі «автозростання ШІ-мандата (56) vs остання константа (57)» перемагає 57 — розширення ШІ-мандата завжди підписує людина, інакше директор відповідає за межу, якою не керує. + +Користувач явно підтвердив усі 66 ідей сесії як зміст фреймворку; повний описаний каталог — у «More Information». + +### Consequences + +- Good, because фреймворк спирається на наявні механіки MT (мандати, decision-request, ескалація, каскад) — пілот можливий без нової інфраструктури; success signal: перші класи рішень переведені на ШІ-мандати з квіз-гейтами, і аудит показує «людина довела розуміння», а не «людина клацнула approve». +- Good, because директорська модель дає юридично впізнавану конструкцію відповідальності (аналогія з чинним корпоративним правом), що спрощує розмову з регулятором і страховиком. +- Bad, because концентрація відповідальності в директорі за масштабної автономії ШІ створює високе персональне навантаження ризику; компенсатори (квіз-гейти, детектор дрейфу, страхування ШІ-рішень) — обов'язкова, а не опційна частина схеми. +- Bad, because частина ідей каталогу взаємно напружена (56↔57, 40↔51, 53↔66) — документ фіксує вибрані розв'язки, але пілот може виявити нові конфлікти. + +## More Information + +Повний каталог сесії — 66 ідей у 10 кластерах. Авторство позначено: (U) — користувач, решта — фасилітатор. Ідеї 39–41, 66 — (U); добудови й role-storming — фасилітатор. + +### Кластер 1: Природа Дельти — що залишається людям + +Де ШІ «не закриває» людей; підстава людських ролей — не когнітивна. + +1. **Легітимність, а не когнітивність** — людина потрібна не тому, що «розумніша», а тому, що лише вона є носієм відповідальності перед законом, клієнтом, суспільством. Дельта — розрив у легітимності, не в інтелекті. +2. **Фізична агентність** — руки, присутність, дії в матеріальному світі: монтаж, зустріч, огляд об'єкта. +3. **Носій преференцій** — ШІ оптимізує під будь-яку функцію цінності, але чиї цінності максимізуються — визначає людина; це не когнітивна задача, тому перевага ШІ тут нерелевантна. +4. **Соціальний інтерфейс** — довіра інших людей: клієнт хоче потиснути руку людині; регулятор вимагає підпису людини. +5. **Скін-у-грі** — людина може втратити гроші, репутацію, свободу; ШІ — ні. Рішення з екзистенційним ризиком для підприємства проходять через того, хто ризикує. +6. **Доступ до приватного/невербалізованого** — контекст, який ніколи не був записаний: стосунки, чутки, історія відносин із партнером. +7. **Джерело ентропії і смаку** — людські «нелогічні» вподобання як джерело диференціації продукту: бренд, естетика, «характер» компанії. +8. **Юридична дієздатність** — підписувати контракти, володіти активами, бути стороною угоди може лише юридична/фізична особа. + +### Кластер 2: Директорська модель відповідальності (хребет фреймворку) + +66. **(U) Директорська модель відповідальності** — як у людських організаціях сьогодні: неважливо, яка людина ухвалила рішення — відповідальність несе директор. У Дельті ШІ може ухвалити рішення, але якщо воно протиправне, відповідальність несе директор — за те, що не організував роботу так, щоб протиправних рішень не було. Відповідальність прив'язана до організації системи, а не до акту рішення. +54. **Розділення рішення і легітимності** — подвійний ключ: ШІ-мандат вирішує, людський мандат легітимізує; чесно розділяє «хто розумніший» і «хто відповідає» (пряме продовження 1 і 66). +57. **Остання константа** — розширення ШІ-мандата підписує лише людина, завжди; єдине правило, яке система ніколи не автоматизує, інакше межа Дельти рухає сама себе. За директорської моделі — не опція, а вимога: директор мусить керувати межею, за яку відповідає. +53. **Скін-у-гру для ШІ-мандата** — ШІ-мандат забезпечується заставою чи страховим пулом (капітал, що «згорає» при помилці). За рішенням сесії — не фундамент, а ринковий інструмент хеджування директорської відповідальності. + +### Кластер 3: Оркестраційні механіки, скориговані на перевагу ШІ + +9. **Інверсія ревʼю** — не людина перевіряє роботу ШІ, а ШІ перевіряє роботу людини; розширення принципу MT «слабша модель генерує, сильніша рецензує» на людей як «слабших виконавців». +10. **Бюджет людської уваги** — головний дефіцитний ресурс системи не токени, а людино-години уваги; оркестратор оптимізує саме їх (розвиток «спаленої уваги верху» з [mandates.md](../architecture/mandates.md) до першокласної валюти). +11. **Гейти за легітимністю, не за складністю** — ескалація до людини не коли «ШІ не впорався», а коли рішення потребує носія відповідальності; retry-before-escalate перечитується як «вичерпав повноваження», а не «вичерпав спроби». +12. **ШІ як штаб, людина як підписант** — ШІ готує рішення до стану «підписати за 5 хвилин з повним контекстом» (escalation-intake з mandates.md — зародок цього). +13. **Паралельні траєкторії з пізнім злиттям** — люди і ШІ виконують одну задачу незалежно, ШІ зливає найкраще з обох; людський внесок — «ще один сампл», не «канон». +14. **Людина як датчик, не процесор** — люди постачають спостереження з фізичного й соціального світу (зустрічі, дзвінки, настрій команди), ШІ їх обробляє. +15. **Договірна повільність** — система свідомо гальмує певні класи рішень до людської швидкості (cooling-off periods), бо швидкість ШІ сама по собі — ризик. +16. **Компетенційний паритет-трекінг** — система постійно вимірює дельту «ШІ vs конкретна людина» в конкретному домені й перерозподіляє роботу; probe-механіка mandates.md як інструмент вимірювання. +17. **Людські задачі як antifragile-буфер** — людей тримають на частині задач не для ефективності, а для збереження компетенції на випадок відмови ШІ: блекаут, регуляторна заборона, vendor lock. +18. **Зворотний decision-request** — людина може «ескалювати вниз» до ШІ власну розвилку й отримати повний штабний аналіз. +55. **Людина ескалює до ШІ** — з ШІ-мандатами ланцюг ескалації двонапрямний: розвилка людини може їхати «вгору» до сильнішої моделі, а не лише навпаки. + +### Кластер 4: Гейти з доведеним розумінням (квіз-гейти) + +39. **(U) Квіз-гейт замість механічного підпису** — перед підписом людина проходить квіз на розуміння того, що підписує; гейт стає когнітивною задачею, а не механічним актом. +42. **Квіз генерується з самого decision-request** — не шаблонний тест, а питання по суті конкретної розвилки («що станеться з X, якщо обереш B?»); підпис криптографічно валідний лише разом із пройденим квізом. +43. **Глибина квізу масштабується за важелем** — leverage-фасети керують і квізом: reversible → одне питання; irreversible + company → повний teach-back. +44. **Teach-back підпис** — людина переказує рішення і наслідки своїми словами, ШІ оцінює переказ (модель з медицини). +45. **Квіз як анти-атрофія** — той самий механізм тренує підписантів (звʼязка з 25): регулярні гейти = регулярне тренування розуміння домену. +46. **Фейл квізу ≠ покарання** — рішення повертається з роз'ясненням; вимірюється «час до розуміння», а не «здав/не здав», інакше квіз стає екзаменом і його обходитимуть (Гудхарт, звʼязка з 29). +64. **Аудитований доказ розуміння** — квіз-логи як регуляторний артефакт: «людина не просто підписала, а довела розуміння» — сильніший комплаєнс, ніж підпис (роль: регулятор). + +### Кластер 5: Зухвалість ШІ і соціальний дрейф людей + +40. **(U) Зухвалий ШІ як компенсатор соціальності** — люди здебільшого соціально орієнтовані, і це домінує над бажанням досягти мети задачі; ШІ має бути зухвалим (goal-driven) саме тому, що людина — ні. +47. **Анти-сикофантський контракт** — ШІ зобов'язаний казати власнику неприємну правду («цей продукт не купують», «улюблений проєкт треба закрити»); вбудований advocatus diaboli як роль, а не риса. +48. **ШІ як соціальний буфер** — соціально дорогі дії (відмовити партнеру, розірвати контракт, жорсткі переговори) делегуються ШІ, бо людині вони коштують соціального капіталу, а меті — потрібні. +49. **Бюджет зухвалості в мандаті** — скільки соціального капіталу/конфлікту можна спалити заради цілі — явний параметр мандата (як budget_eur), а не риса характеру моделі. +50. **Детектор соціального дрейфу** — ШІ моніторить, де людські рішення систематично відхиляються від мети через соціальний тиск («не звільнив, бо друг»), і показує власнику дельту «мета vs соціальний комфорт». +51. **Зухвалість обмежена оборотністю** — контр-вага до 40: зухвалість без скін-у-гри небезпечна, тому агресивно-цільова поведінка дозволена лише в reversible-класі рішень; на irreversible — консервативність. + +### Кластер 6: ШІ-мандати + +41. **(U) ШІ теж може володіти мандатами** — мандат не є ексклюзивно людським. +52. **ШІ як першокласний owner у mandates.yaml** — `owner: fable-5` поруч з `owner: olena`; модельний каскад MT, що вирішує в межах порогів, стає явним мандатом з тими самими правилами. +56. **Автозростання ШІ-мандата за трек-рекордом** — аналізатор ескалацій пропонує розширення ШІ-мандатів на основі історії. За рішенням сесії — лише як draft на людський підпис (див. 57), не автоматично. + +### Кластер 7: Ролі та оргструктура + +19. **Власник дельти** — окрема роль: людина, що вирішує, які класи рішень ще не можна віддати ШІ — керує самою межею. +20. **Оргструктура як граф мандатів, не ієрархія людей** — посади зникають, лишаються мандати на класи рішень (mandates.yaml як заміна штатного розкладу). +21. **Людина-в-парі за замовчуванням** — кожен людський виконавець завжди працює в парі з агентом-супроводом (stretch-механіка mandates.md, поширена на всіх). +22. **Ротація людей по гейтах** — щоб підпис не став rubber-stamping, людей ротують по класах рішень, як суддів по справах. +23. **Мікропідприємство «1 людина + N агентів»** — атомарна одиниця економіки; Дельта — протокол міжатомної взаємодії. +24. **Рада людей лише для незворотного** — колективний людський орган збирається тільки на рішення класу irreversible + company blast radius; решта — машинний потік. + +### Кластер 8: Патології та захисти + +25. **Атрофія компетенцій** — люди, що лише підписують, втрачають здатність судити; система має «тренувальні» задачі для підтримки форми підписантів (звʼязка з 45). +26. **Rubber-stamping детекція** — статистичний контроль якості людських підписів: якщо людина завжди погоджується з рекомендацією — її гейт фіктивний; розвиток аналізатора ескалацій до автоматичного звуження гейтів. +27. **Легітимізаційний театр** — ризик, що людські ролі стануть декорацією для регулятора; чесна схема відрізняє «людина реально вирішує» від «людина легітимізує» (звʼязка з 54). +28. **Втрата «навіщо»** — якщо ШІ формулює навіть цілі краще, власник поступово перестає розуміти власне підприємство; потрібна примусова синхронізація розуміння — людина мусить вміти переказати стан своїми словами, інакше мандат «іржавіє». +29. **Гудхарт на людських метриках** — якщо система міряє людей, люди оптимізують метрику; positive-only профілі MT — наявна відповідь, потребує перевірки на достатність. +30. **Моральна розвантаженість** — людина, що підписує підготовлене ШІ рішення, психологічно не відчуває відповідальності («система порадила») — підпис без ваги; квіз-гейти (кластер 4) — головний компенсатор. +58. **Профспілковий режим** — усі механізми вимірювання людини публікуються їй самій першій (роль: скептична працівниця; розвиток positive-only з MT). + +### Кластер 9: Економіка і мотивація людей + +31. **Оплата за відповідальність, не за працю** — компенсація людини пропорційна взятому ризику підпису (гонорар директора/поручителя), а не годинам. +32. **Ринок людських гейтів** — зовнішні кваліфіковані «підписанти» на аутсорсі (нотаріальна модель) для малих підприємств, що не тримають своїх. +33. **Кар'єра = розширення мандата** — зростання переозначується: не «більше підлеглих», а «ширший клас рішень, які тобі довіряють» (підписаний акт делегування з mandates.md). +34. **Дивіденд дельти** — частина економії від ШІ-праці розподіляється людям за утримання легітимності й відповідальності — інакше людям нема чому лишатись у схемі. +59. **Контракт переходу** — коли паритет-трекінг (16) показує, що ШІ обігнав людину в домені, людина отримує не звільнення, а гарантований шлях: новий домен + probe + оплачена перекваліфікація (роль: скептична працівниця). +60. **Ціна гейта як метрика** — кожен людський підпис має обчислену вартість (зарплата × час + ціна затримки); оркестратор мінімізує сумарну вартість гейтів, а не їх кількість (роль: CFO). +61. **Зовнішній страховик ШІ-рішень** — ринкова валідація межі: якщо страховик готовий застрахувати клас рішень ШІ, межа Дельти посунулась об'єктивно, а не за внутрішнім рішенням (роль: CFO; звʼязка з 53). + +### Кластер 10: Інтерфейс людина ↔ система + +35. **Один екран = одна розвилка** — людина не бачить «списку задач», лише чергу підготовлених розвилок свого мандата; decision-request як єдиний UI-примітив. +36. **Пояснення на рівні слухача** — ШІ формулює розвилку на рівні компетенції конкретного власника; крос-мовність MT, розширена до «крос-компетентності». +37. **Право на глибину** — людина завжди може розгорнути будь-яке машинне рішення до довільної глибини обґрунтування (анти-чорна-скринька). +38. **Тиха година** — система батчить людські гейти в передбачувані вікна, щоб людина жила життя, а не чергувала біля сповіщень. +62. **Звіт як розмова** — людина після зустрічі чи дзвінка наговорює враження голосом 2 хвилини, ШІ структурує сам (роль: ШІ-оркестратор; «людина-датчик» без бюрократії). +63. **SLA людини як параметр мандата** — власник декларує свої вікна відповіді, система планує критичний шлях навколо них (роль: ШІ-оркестратор; розвиток 38). +65. **Прапор автентичності** — комунікація підприємства завжди маркована: людина / ШІ від імені людини / ШІ автономно; продуктова перевага, а не тягар (роль: клієнт). + +### Відкладені кластери + +Немає — користувач підтвердив усі 66 ідей як зміст фреймворку; напруги всередині каталогу (56↔57, 40↔51, 53↔66) розв'язані в Decision Outcome на користь директорської моделі. + +### Відкриті питання + +- Юридична механіка директорської відповідальності за автономні ШІ-рішення в конкретних юрисдикціях (мапінг на чинне корпоративне право). +- Пілот: який перший клас рішень перевести на ШІ-мандат із квіз-гейтом і якою метрикою міряти успіх (кандидат — «ціна гейта», ідея 60). +- Як саме «бюджет зухвалості» (49) виражається в параметрах мандата, щоб бути аудитовним.