Перегляд вихідного коду сторінки Слабке керування

{{Short description|Парадигма в машинному навчанні}}
'''Слабке́ керува́ння''' ({{lang-en|weak supervision}}) або '''слабокеро́ване навча́ння''',<ref name="Ілюшик2021">{{cite thesis|last=Ілюшик|first=Т.&nbsp;С.|year=2021|title=Класифікація гістологічних зображень раку простати|type=Магістерська дисертація|publisher=[[НТУУ «КПІ ім. Ігоря Сікорського»]]|url=https://ela.kpi.ua/bitstream/123456789/54417/1/Iliushyk_magistr.pdf|language=uk|access-date=16 серпня 2023|location=Київ}}</ref><ref name="Клейн2023">{{cite thesis|last=Клейн|first=О.&nbsp;М.|year=2023|title=Метод та засоби виявлення аномалій в кіберфізичних системах комп’ютерного зору|type=Кваліфікаційна робота магістра|publisher=[[Хмельницький національний університет]]|url=http://elar.khmnu.edu.ua/handle/123456789/13653|language=uk|access-date=16 серпня 2023|location=Хмельницький}}</ref> яке також називають '''напівкеро́ваним навча́нням''' ({{lang-en|semi-supervised learning}}),<ref name="СинєглазовЧумаченко2022">{{cite book|url=https://ela.kpi.ua/bitstream/123456789/52775/1/Metody.pdf|last1=Синєглазов|first1=Віктор|last2=Чумаченко|first2=Олена|year=2022|title=Методи та технології напівкерованого навчання: Курс лекцій|editor-last1=Бідюк|editor-first1=П.&nbsp;І.|editor-link1=Бідюк Петро Іванович|editor-last2=Шугалей|editor-first2=Л.&nbsp;П.|publisher=[[НТУУ «КПІ ім. Ігоря Сікорського»]]|location=Київ|language=uk}}</ref><ref name="КопивницькаМагас2023">{{cite journal|last1=Кропивницька|first1=В.&nbsp;Б.|last2=Магас|first2=Д.&nbsp;М.|date=30 квітня 2023|title=Напівкероване машинне навчання для виявлення несправностей нафтогазопроводів|url=https://moderntechno.de/index.php/meit/article/view/meit26-01-010|journal=Modern engineering and innovative technologies|volume=1|issue=18|pages=33—36|doi=10.30890/2567-5273.2023-26-01-010|language=uk}}</ref>&nbsp;— це одна з парадигм [[Машинне навчання|машинного навчання]], актуальність і помітність якої зросли з появою [[Велика мовна модель|великих мовних моделей]] через велику кількість даних, необхідних для того, щоби їх тренувати. Вона характеризується використанням поєднання невеликої кількості даних, {{нп|Мічені дані|мічених||Labeled data}} людьми (лише які й використовують у дорожчій та часовитратнішій парадигмі [[Кероване навчання|керованого навчання]]), разом із великою кількістю немічених даних (лише які й використовують у парадигмі [[Некероване навчання|некерованого навчання]]). Іншими словами, бажані значення виходу надають лише для підмножини тренувальних даних. Решта даних не мічені, або мічені неточно. Інтуїтивно це можливо розглядати як іспит, а мічені дані&nbsp;— як приклади задач, які вчитель розв'язує для класу як допомогу у розв'язанні іншого набору задач. У трансдуктивній постановці ці нерозв'язані задачі діють як питання іспиту. В індуктивній постановці вони стають практичними задачами такого вигляду, які складатимуть іспит. Технічно це можливо розглядати як виконання [[кластерування]] з наступним міченням кластерів за допомогою мічених даних, відсуванням меж рішень від областей із високою густиною, або навчання одновимірного многовида в основі даних, на якому вони перебувають.

== Задача ==
[[Файл:Task-guidance_uk.png|ліворуч|міні|300x300пкс|Схильність завдань використовувати керовані та некеровані методи. Перетин кіл назвами завдань навмисний. Він показує, що класичне відокремлення творчих завдань (ліворуч) із застосуванням некерованих методів у сучасних схемах навчання розмите.]]
{{Машинне навчання|Парадигми}}

Отримання мічених даних для задачі навчання часто вимагає кваліфікованого агента-людини (наприклад, для транскрибування аудіосегменту) або фізичного експерименту (наприклад, визначення тривимірної структури білка або визначення наявності нафти в певному місці). Таким чином, витрати, пов'язані з процесом мічення, можуть виявитися величезними, повністю мічені тренувальні набори&nbsp;— неможливими, в той час як отримання немічених даних відносно невитратне. В таких ситуаціях напівкероване навчання може мати велике практичне значення. Напівкероване навчання також становить теоретичний інтерес для машинного навчання та як модель людського навчання.

== Методика ==
{{див. також|{{нп|Активне навчання (машинне навчання)|||Active learning (machine learning)}}}}
[[Файл:Example_of_unlabeled_data_in_semisupervised_learning.png|ліворуч|міні|225x225пкс|Приклад впливу немічених даних у напівкерованому навчанні. Верхня панель показує межу рішення, яку ми можемо ухвалити, побачивши лише один позитивний (білій кружечок) й один негативний (чорний кружечок) приклади. На нижній панелі показано межі рішення, які ми могли б ухвалити, якби крім двох мічених прикладів ми отримали набір немічених даних (сірі кружечки).]]

Формальніше, напівкероване навчання розглядає обробку набору <math>l</math> [[Незалежні однаково розподілені випадкові величини|незалежних однаково розподілених]] прикладів <math>x_1,\dots,x_l \in X</math> з відповідними мітками <math>y_1,\dots,y_l \in Y</math>, та <math>u</math> немічених прикладів <math>x_{l+1},\dots,x_{l+u} \in X</math>. Напівкероване навчання поєднує цю інформацію, щоби перевершити якість [[Задача класифікації|класифікації]], яку можливо було би отримати, відкинувши немічені дані й виконавши кероване навчання, або відкинувши мітки й виконавши некероване навчання.

Напівкероване навчання може стосуватися або {{нп|Трансдукція (машинне навчання)|трансдуктивного||Transduction (machine learning)}}, або [[Індуктивне висновування|індуктивного навчання]].<ref>{{Citation|title=Semi-Supervised Learning Literature Survey, Page 5|year=2007}}</ref> Мета трансдуктивного навчання полягає у висновуванні правильних міток лише для наданих немічених даних <math>x_{l+1},\dots,x_{l+u}</math>. Метою індуктивного навчання є висновування правильного відображення <math>X</math> в <math>Y</math>.

Непотрібно (і, відповідно до [[Принцип Вапника|принципу Вапника]], необачно) виконувати трансдуктивне навчання шляхом висновування правила класифікації над усім простором входу; проте на практиці алгоритми, формально розроблені для трансдукції або індукції, часто використовують як взаємозамінні.

== Припущення ==

Щоб отримати з немічених даних хоч якусь користь, має існувати певний зв'язок із розподілом в їхній основі. Алгоритми напівкерованого навчання використовують принаймні одне з наступних припущень:{{sfn|Chapelle|Schölkopf|Zien|2006}}

=== Припущення неперервності/гладкості ===

''Точки, близькі одна до одної, швидше за все, мають спільну мітку.'' Це також зазвичай припускають у керованім навчанні, воно віддає перевагу геометрично простим {{нп|Межа рішення|межам рішень||Decision boundary}}. У випадку напівкерованого навчання припущення про плавність додатково дає перевагу межам рішень в областях із низькою густиною, тож менше точок знаходяться близько одна до одної, але в різних класах.{{джерело|comment=Це не ясно апріорі!|дата=серпень 2023}}

=== Припущення кластерованості ===

''Дані схильні утворювати окремі кластери, й точки в одному кластері, швидше за все, мають спільну мітку'' (хоча дані, які мають спільну мітку, можуть поширюватися на декілька кластерів). Це особливий випадок припущення про плавність, він дає початок [[Навчання ознак|навчанню ознак]] за допомогою алгоритмів кластерування.

=== Многовидне припущення ===
{{main|{{нп|Гіпотеза многовидів|||Manifold hypothesis}}}}

''Дані приблизно лежать на [[многовид]]і набагато меншої розмірності, ніж простір входу.'' В цьому випадку навчання цього многовида з використанням як мічених, так і немічених даних може уникати [[прокляття розмірності]]. Тоді навчання можливо здійснювати з використанням відстаней і густин, визначених на цьому многовиді.

Многовидне припущення практичне, коли багатовимірні дані породжуються деяким процесом, який може бути важко змоделювати безпосередньо, але який має лише кілька ступенів вільності. Наприклад, людський голос контролюється декількома голосовими зв'я́зками,<ref name = "StevensKN">{{Cite book|title=Acoustic phonetics|last=Stevens |first=Kenneth N.|date=1998|publisher=MIT Press|isbn=0-585-08720-2|location=Cambridge, Mass.|oclc=42856189|language=en}}</ref> а зображення різних виразів обличчя&nbsp;— кількома м'язами. У цих випадках краще розглядати відстані та гладкість у природному просторі породжувальної задачі, а не в просторі всіх можливих акустичних хвиль чи зображень відповідно.

== Історія ==

Евристичний підхід ''самотренування'' ({{lang-en|self-training}}, відомий також як ''самонавчання'', {{lang-en|self-learning}}, та ''самомічення'', {{lang-en|self-labeling}})&nbsp;— історично найстаріший підхід напівкерованого навчання,{{sfn|Chapelle|Schölkopf|Zien|2006}} приклади застосування якого починаються з 1960-х років.<ref>{{Cite journal|last=Scudder|first=H.|date=July 1965|title=Probability of error of some adaptive pattern-recognition machines|journal=IEEE Transactions on Information Theory|volume=11|issue=3|pages=363–371|doi=10.1109/TIT.1965.1053799|issn=1557-9654|language=en}}</ref>

Концепцію трансдуктивного навчання офіційно представив [[Вапник Володимир Наумович|Володимир Вапник]] у 1970-х роках.<ref>{{cite book|last1=Вапник |first1=В.&nbsp;Н. |last2= Червоненкис |first2=А.&nbsp;Я.|title= Теоря распознавания образов |language= ru |publisher= Наука |location=Москва |year=1974}} процитована в {{harvnb|Chapelle|Schölkopf|Zien|2006|p= 3}}</ref> Інтерес до індуктивного навчання з використанням породжувальних моделей також виник у 1970-х роках. [[Імовірно приблизно коректне навчання|''Імовірно приблизно коректне'' навчання]] для напівкерованого навчання суміші [[гауссіан]]ів продемонстровали Рацабі та Венкатеш 1995 року.<ref name="Ratsaby">{{cite web|last1=Ratsaby |first1=J.|last2= Venkatesh|first2= S. |url=http://www.ariel.ac.il/sites/ratsaby/Publications/PDF/colt95.pdf |title=Learning from a mixture of labeled and unlabeled examples with parametric side information |language=en}} у {{Cite book|title=Proceedings of the eighth annual conference on Computational learning theory - COLT '95|date=1995|publisher=ACM Press|isbn=0-89791-723-5|location=New York, New York, USA|pages= 412–417 |doi=10.1145/225298.225348|s2cid=17561403|language=en}}. Процитована в {{harvnb|Chapelle|Schölkopf|Zien|2006|p=4}}</ref>

== Методи ==

=== Породжувальні моделі ===

Породжувальні підходи до статистичного навчання спочатку спрямовані на оцінку <math>p(x|y)</math>,{{Сумнівно}} розподілу точок даних, що належать кожному класові. Ймовірність <math>p(y|x)</math> що дана точка <math>x</math> має мітку <math>y</math> відтак пропорційна <math>p(x|y)p(y)</math> за [[Теорема Баєса|правилом Баєса]]. Напівкероване навчання з [[Породжувальна модель|породжувальними моделями]] можливо розглядати або як розширення керованого навчання (класифікування плюс інформація про <math>p(x)</math>), або як розширення некерованого навчання (кластерування плюс трохи міток).

Породжувальні моделі виходять із припущення, що розподіли мають певний вигляд <math>p(x|y,\theta)</math>, параметрований вектором <math>\theta</math>. Якщо ці припущення неправильні, немічені дані можуть насправді знизити точність розв'язку порівняно з тим, що було б отримано лише з мічених даних.<ref>{{Citation|last1=Fabio|first1=Cozman|title=Risks of Semi-Supervised Learning: How Unlabeled Data Can Degrade Performance of Generative Classifiers|date=2006-09-22|work=Semi-Supervised Learning|pages=56–72|publisher=The MIT Press|isbn=978-0-262-03358-9|last2=Ira|first2=Cohen|doi=10.7551/mitpress/9780262033589.003.0004|language=en}} У: {{harvnb|Chapelle|Schölkopf|Zien|2006}}</ref> Проте якщо вони правильні, то немічені дані обов'язково покращать продуктивність.<ref name = "Ratsaby"/>

Немічені дані розподілено відповідно до суміші розподілів окремих класів. Щоби навчитися цієї суміші розподілів із немічених даних, вона повинна бути ідентифіковною, тобто різні параметри повинні давати різні сумарні розподіли. Гауссові сумішеві розподіли ідентифіковні, і їх часто використовують для породжувальних моделей.

Параметрований [[спільний розподіл]] за допомогою [[Ланцюгове правило (теорія ймовірності)|ланцюгового правила]] можливо записати як <math>p(x,y|\theta)=p(y|\theta)p(x|y,\theta)</math>. Кожен вектор параметрів <math>\theta</math> пов'язується з функцією рішення <math>f_\theta(x) = \underset{y}{\operatorname{argmax}}\ p(y|x,\theta)</math>. Потім цей параметр обирають на основі допасованості як до мічених, так і до немічених даних, зважених <math>\lambda</math>:

: <math>\underset{\Theta}{\operatorname{argmax}}\left( \log p(\{x_i,y_i\}_{i=1}^l | \theta) + \lambda \log p(\{x_i\}_{i=l+1}^{l+u}|\theta)\right) </math><ref name="SSL_EoML">Zhu, Xiaojin. [http://pages.cs.wisc.edu/~jerryzhu/pub/SSL_EoML.pdf Semi-Supervised Learning] University of Wisconsin-Madison.</ref>

=== Низькогустинне розділення ===

Інший важливий клас методів намагається встановлювати межі в областях із невеликою кількістю точок даних (мічених чи немічених). Один із найчастіше вживаних алгоритмів&nbsp;— [[Опорновекторні машини#Трансдуктивні опорно-векторні машини|трансдуктивна опорновекторна машина]], або ТОВМ ({{lang-en|TSVM}}, яку, незважаючи на її назву, можна використовувати й для індуктивного навчання). У той час як [[опорновекторні машини]] для керованого навчання шукають межу рішення з максимальним [[Розділення (машинне навчання)|розділенням]] над міченими даними, мета ТОВМ&nbsp;— мічення немічених даних так, щоби межа рішення мала максимальне розділення над усіма даними. На додачу до стандартних [[Завісні втрати|заві́сних втрат]] <math>(1-yf(x))_+</math> для мічених даних запроваджують функцію втрат <math>(1-|f(x)|)_+</math> над неміченими даними, покладаючи <math>y=\operatorname{sign}{f(x)}</math>. ТОВМ відтак обирає <math>f^*(x) = h^*(x) + b</math> із {{нп|Гільбертів простір з відтворювальним ядром|гільбертового простору з відтворювальним ядром||Reproducing kernel Hilbert space}} <math>\mathcal{H}</math> мінімізуванням [[Регуляризація (математика)|регуляризованого]] [[Мінімізація емпіричного ризику|емпіричного ризику]]:

: <math>f^* = \underset{f}{\operatorname{argmin}}\left( 
\displaystyle \sum_{i=1}^l(1-y_if(x_i))_+ + \lambda_1 \|h\|_\mathcal{H}^2 + \lambda_2 \sum_{i=l+1}^{l+u} (1-|f(x_i)|)_+
\right) </math>

Точне розв'язання непіддатливе через не[[Опукла функція|опуклість]] члена <math>(1-|f(x)|)_+</math>, тож дослідження зосереджуються на корисних наближеннях.<ref name="SSL_EoML"/>

До інших підходів, які втілюють низькогустинне розділення ({{lang-en|low-density separation}}), належать моделі гауссових процесів, регуляризація інформації, та мінімізація ентропії (окремим випадком якої є ТОВМ).

=== Лапласова регуляризація ===

До лапласової регулярізації ({{lang-en|laplacian regularization}}) історично підходили через матрицю Лапласа (Кірхгофа). Методи на основі графів для напівкерованого навчання використовують графове подання даних із вузлами для кожного з мічених і немічених прикладів. Граф можна побудувати, використовуючи знання предметної області, або схожість прикладів; двома поширеними методами є з'єднувати кожну точку даних з її <math>k</math> найближчими сусідами, або з прикладами на деякій відстані <math>\epsilon</math>. Вагу <math>W_{ij}</math> ребра між <math>x_i</math> та <math>x_j</math> відтак встановлюють в <math>e^{\frac{-\|x_i-x_j\|^2}{\epsilon}}</math>.

В системі {{нп|Многовидна регуляризація|многовидної регуляризації||Manifold regularization}}<ref>{{cite journal|author1=M. Belkin |author2=P. Niyogi |title=Semi-supervised Learning on Riemannian Manifolds|journal=Machine Learning|volume=56|issue=Special Issue on Clustering|pages=209–239|year=2004|url=http://booksc.org/dl/11288633/421f61|doi=10.1023/b:mach.0000033120.25363.1e|doi-access=free|language=en}}</ref><ref>M. Belkin, P. Niyogi, V. Sindhwani. On Manifold Regularization. AISTATS 2005. {{ref-en}}</ref> цей граф слугує посередником для многовида. До стандартної задачі [[Регуляризація Тихонова|регуляризації Тихонова]] додають додатковий член, щоби забезпечити гладкість розв'язку відносно многовиду (у внутрішньому просторі задачі), а також відносно навколишнього простору входу. Задача мінімізації набуває вигляду

: <math>\underset{f\in\mathcal{H}}{\operatorname{argmin}}\left(
\frac{1}{l}\displaystyle\sum_{i=1}^l V(f(x_i),y_i) + 
\lambda_A \|f\|^2_\mathcal{H} + 
\lambda_I \int_\mathcal{M}\|\nabla_\mathcal{M} f(x)\|^2dp(x)
\right) </math><ref name="SSL_EoML"/>

де <math>\mathcal{H}</math>&nbsp;— [[гільбертів простір]] із відтворювальним ядром, а <math>\mathcal{M}</math>&nbsp;— многовид, на якому лежать дані. Параметри регуляризації <math>\lambda_A</math> та <math>\lambda_I</math> контролюють гладкість у навколишньому ({{lang-en|ambient}}) та внутрішньому ({{lang-en|intrinsic}}) просторах відповідно. Цей граф використовують для наближення члена внутрішньої регуляризації. Визначивши [[Матриця Лапласа|матрицю Лапласа]] (Кірхгофа) <math>L = D - W</math>, де <math>D_{ii} = \sum_{j=1}^{l+u} W_{ij}</math>, а <math>\mathbf{f}</math> це вектор <math>[f(x_1)\dots f(x_{l+u})]</math>, ми отримуємо

: <math>\mathbf{f}^T L \mathbf{f} = \displaystyle\sum_{i,j=1}^{l+u}W_{ij}(f_i-f_j)^2 \approx \int_\mathcal{M}\|\nabla_\mathcal{M} f(x)\|^2dp(x)</math> .

Графовий підхід до лапласової регулярізації пов'язують із [[Метод скінченних різниць|методом скінченних різниць]].{{прояснити|дата=серпень 2023}}{{джерело|дата=серпень 2023}}

Матрицю Лапласа (Кірхгофа) також можливо використовувати для розширення алгоритмів керованого навчання: {{нп|Регуляризовані найменші квадрати|регуляризованих найменших квадратів||Regularized least squares}} та опорновекторних машин (ОВМ) до напівкерованих версій лапласових регуляризованих найменших квадратів ({{lang-en|Laplacian regularized least squares}}) та лапласових ОВМ ({{lang-en|Laplacian SVM}}).

=== Евристичні підходи ===

Деякі методи напівкерованого навчання за своєю суттю не орієнтовані на навчання як із немічених, так і з мічених даних, а натомість використовують немічені дані в рамках керованого навчання. Наприклад, мічені та немічені приклади <math>x_1,\dots,x_{l+u}</math> на некерованому першому кроці можуть інформувати вибір подання, [[Метричний простір|міри відстані]], або [[Ядро (статистика)|ядра]] для даних. Потім продовжується кероване навчання лише з мічених прикладів. У цьому ключі деякі методи навчаються низьковимірного подання, використовуючи керовані дані, а потім застосовують до навченого подання або низькогустинне розділення, або графові методи.<ref>{{cite book |last1=Iscen |first1=Ahmet |last2=Tolias |first2=Giorgos |last3=Avrithis |first3=Yannis |last4=Chum |first4=Ondrej |title=2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) |chapter=Label Propagation for Deep Semi-Supervised Learning |date=2019 |pages=5065–5074 |doi=10.1109/CVPR.2019.00521 |chapter-url=https://ieeexplore.ieee.org/document/8954421 |access-date=26 березня 2021|arxiv=1904.04717 |isbn=978-1-7281-3293-8 |s2cid=104291869 |language=en }}</ref><ref>{{cite journal |last1=Burkhart |first1=Michael C. |last2=Shan |first2=Kyle |title=Deep Low-Density Separation for Semi-supervised Classification |journal=International Conference on Computational Science (ICCS) |series=Lecture Notes in Computer Science |date=2020 |volume=12139 |pages=297–311 |doi=10.1007/978-3-030-50420-5_22 |isbn=978-3-030-50419-9 |doi-access=free |language=en }}</ref> Ітеративне вдосконалення подання з наступним виконанням напівкерованого навчання на цьому поданні можуть ще далі підвищувати продуктивність.

''Самотренування'' ({{lang-en|self-training}})&nbsp;— це обгортковий метод напівкерованого навчання.<ref>{{Cite journal|title = Self-labeled techniques for semi-supervised learning: taxonomy, software and empirical study|journal = Knowledge and Information Systems|date = 2013-11-26|issn = 0219-1377|pages = 245–284|volume = 42|issue = 2|doi = 10.1007/s10115-013-0706-y|language = en|first1 = Isaac|last1 = Triguero|first2 = Salvador|last2 = García|first3 = Francisco|last3 = Herrera|s2cid = 1955810}}</ref> Спершу тренують алгоритм керованого навчання лише на мічених даних. Відтак цей класифікатор застосовують до немічених даних для породження більшої кількості мічених прикладів як даних входу для алгоритму керованого навчання. Зазвичай на кожному кроці додають лише ті мітки, в яких класифікатор найупевненіший.<ref>{{Cite journal|title = Self-Trained LMT for Semisupervised Learning|journal = Computational Intelligence and Neuroscience|date = 2015-12-29|pages = 3057481|volume = 2016|doi = 10.1155/2016/3057481|pmid = 26839531|pmc = 4709606|language = en|first1 = Nikos|last1 = Fazakis|first2 = Stamatis|last2 = Karlos|first3 = Sotiris|last3 = Kotsiantis|first4 = Kyriakos|last4 = Sgarbas|doi-access = free}}</ref>

{{нп|Співтренування|||Co-training}} ({{lang-en|co-training}})&nbsp;— це розширення самотренування, в якому декілька класифікаторів тренуються на різних (в ідеалі неперетинних) наборах ознак і породжують мічені приклади один для одного.<ref>{{Cite book|title = Analysis of Co-training Algorithm with Very Small Training Sets|publisher = Springer Berlin Heidelberg|date = 2012-11-07|isbn = 9783642341656|pages = 719–726|series = Lecture Notes in Computer Science|language = en|first1 = Luca|last1 = Didaci|first2 = Giorgio|last2 = Fumera|first3 = Fabio|last3 = Roli|editor-first = Georgy|editor-last = Gimel’farb|editor-first2 = Edwin|editor-last2 = Hancock|editor-first3 = Atsushi|editor-last3 = Imiya|editor-first4 = Arjan|editor-last4 = Kuijper|editor-first5 = Mineichi|editor-last5 = Kudo|editor-first6 = Shinichiro|editor-last6 = Omachi|editor-first7 = Terry|editor-last7 = Windeatt|editor-first8 = Keiji|editor-last8 = Yamada|doi = 10.1007/978-3-642-34166-3_79| s2cid=46063225 }}</ref>

== У людському пізнанні ==

Реакції людей на формальні задачі напівкерованого навчання дали мінливі висновки щодо ступеню впливу немічених даних.<ref name="ZhuGoldberg">
{{Cite book|title=Introduction to semi-supervised learning|last=Zhu|first=Xiaojin|date=2009|publisher=Morgan & Claypool Publishers|others=Goldberg, A. B. (Andrew B.)|isbn=978-1-59829-548-1|location=[San Rafael, Calif.]|oclc=428541480|language=en}}</ref> Природніші задачі навчання також можна розглядати як зразки напівкерованого навчання. Значна частина людського {{нп|навчання понять|||Concept learning}} передбачає невелику кількість прямих інструкцій (як-то позначення об'єктів батьками у дитинстві) у поєднанні з великою кількістю неміченого досвіду (як-то спостереження за об'єктами без їхніх назв чи кількостей, або принаймні без зворотного зв'язку).

Людські немовлята чутливі до структури немічених природних категорій, таких як зображення собак чи котів, та чоловічих чи жіночих облич.<ref>{{cite journal |author1=Younger B. A. |author2=Fearing D. D. | year = 1999 | title = Parsing Items into Separate Categories: Developmental Change in Infant Categorization | journal = Child Development | volume = 70 | issue = 2| pages = 291–303 | doi=10.1111/1467-8624.00022 | language=en}}</ref> Немовлята та діти враховують не лише немічені приклади, але й процес [[Вибирання (статистика)|вибирання]] зразків, у результаті якого виникають мічені приклади.<ref>{{cite journal|author1=Xu, F.  |author2=Tenenbaum, J. B. |name-list-style=amp |year=2007|title=Sensitivity to sampling in Bayesian word learning|volume=10|issue=3 |pages=288–297|doi=10.1111/j.1467-7687.2007.00590.x|pmid=17444970 |journal=Developmental Science|citeseerx=10.1.1.141.7505|language=en }}</ref><ref>{{cite journal|author=Gweon, H., Tenenbaum J.B., and Schulz L.E|year=2010|title=Infants consider both the sample and the sampling process in inductive generalization|journal=Proc Natl Acad Sci U S A|volume=107|issue=20|pages=9066–71|doi=10.1073/pnas.1003095107|pmid=20435914|pmc=2889113|bibcode=2010PNAS..107.9066G|doi-access=free|language=en}}</ref>

== Див. також ==

* {{нп|ПН-навчання|||PU learning}}

== Примітки ==
<references responsive="0" />

== Джерела ==

* {{Cite book  | last1 = Chapelle | first1 = Olivier | last2 = Schölkopf | first2 = Bernhard | last3 = Zien | first3 = Alexander | title = Semi-supervised learning | url = https://archive.org/details/isbn_9780262033589 | year = 2006 | publisher = MIT Press | location = Cambridge, Mass. | isbn = 978-0-262-03358-9 | language = en | ref = harv }}

== Посилання ==

* [http://manifold.cs.uchicago.edu/manifold_regularization/software.html ''Manifold Regularization''] Вільно доступне втілення в ''[[MATLAB]]'' графових напівкерованих алгоритмів лапласових опорновекторних машин та лапласових регуляризованих найменших квадратів.
* [http://sci2s.ugr.es/keel/algorithms.php#sub10 ''KEEL'': програмний інструмент для оцінювання еволюційних алгоритмів для задач добування даних (регресії, класифікування, кластерування, добування шаблонів тощо).] Модуль ''KEEL'' для напівкерованого навчання.
* [http://pages.cs.wisc.edu/~jerryzhu/ssl/software.html Програмне забезпечення напівкерованого навчання]
* [https://scikit-learn.org/stable/modules/semi_supervised.html Напівкероване навчання&nbsp;— документація ''scikit-learn''] Напівкероване навчання в [[Scikit-learn|''scikit-learn'']].

[[Категорія:Машинне навчання]]