Перегляд вихідного коду сторінки Модель «торба слів» у комп'ютерному зорі

[[Файл:Letter Word Text Taxonomy by Teresa Berndtsson.jpg|міні|272x272px|Візуалізація моделі "Торба слів"у комп'ютерному баченні]]
У '''комп'ютерному зорі модель "торба слів"''' ({{lang-en|bag-of-words model}}, модель BoW), яку іноді називають '''моделлю "сумки візуальних слів"'''<ref name=":0">{{Cite book
|url=https://www.cs.cmu.edu/~efros/courses/LBMV07/Papers/csurka-eccv-04.pdf
|title=Visual Categorization with Bags of Keypoints
|last=Csurka
|first=Gabriella
|last2=Dance
|first2=Christopher
|last3=Fan
|first3=Lixin
|last4=Willamowski
|first4=Jutta
|last5=Bray
|first5=Cédric
|year=2004
|edition=Workshop on Statistical Learning in Computer Vision
|pages=1-22
|language=англійською
}}</ref>''',''' можна застосувати до [[Комп'ютерний зір|класифікації]] або пошуку зображень, трактуючи [[Ознака (комп'ютерне бачення)|характеристики зображення]] як слова. У [[Класифікація документів|класифікації документів]] [[Модель «торба слів»|торба слів]]&nbsp;— це [[Розріджена матриця|розріджений вектор]] підрахунків появи слів; тобто розріджена [[гістограма]] над словником. У [[Комп'ютерний зір|комп'ютерному зорі]]  модель "торба ''слів"''&nbsp;— це вектор підрахунків появи словника локальних характеристик зображення.

== Представлення зображення на основі моделі BoW ==
Щоб представити зображення за допомогою моделі BoW, зображення можна розглядати як документ. Подібним чином необхідно визначити «слова» в зображеннях. Щоб досягти цього, він зазвичай включає наступні три кроки: [[Ознака (комп'ютерне бачення)|виявлення функції]], опис функції та створення кодової книги.<ref name="feifeicvpr2005">{{Cite book
|title=2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05)
|last=Fei-Fei Li
|last2=Perona
|first2=P.
|year=2005
|volume=2
|pages=524–531
|chapter=A Bayesian Hierarchical Model for Learning Natural Scene Categories
|doi=10.1109/CVPR.2005.16
|isbn=978-0-7695-2372-9
}}</ref> Визначенням моделі BoW може бути «подання гістограми на основі незалежних ознак».<ref name="cvprcourse">{{Cite web|last=L. Fei-Fei|last2=R. Fergus|last3=A. Torralba|title=Recognizing and Learning Object Categories, CVPR 2007 short course|url=http://people.csail.mit.edu/torralba/shortCourseRLOC/index.html}}</ref> Індексування та пошук зображень на основі вмісту (CBIR), здається, є першим застосовувачем цієї техніки представлення зображень.<ref>{{Cite journal|last=Qiu|first=G.|year=2002|title=Indexing chromatic and achromatic patterns for content-based colour image retrieval|url=http://www.cs.nott.ac.uk/~qiu/webpages/Papers/ColorPatternRecognition.pdf|journal=Pattern Recognition|volume=35|issue=8|pages=1675–1686|bibcode=2002PatRe..35.1675Q|doi=10.1016/S0031-3203(01)00162-5}}</ref>
[[Файл:Matplotlib3 histogram.svg|ліворуч|міні|197x197пкс]]
[[Файл:LDA Projection Illustration 01.gif|ліворуч|міні|198x198пкс|Гістограма]]

=== Представлення ознак ===
Після виявлення ознак кожне зображення абстрагується кількома локальними плямами. Методи подання функцій стосуються того, як представити патчі як числові вектори. Ці вектори називаються дескрипторами ознак. Хороший дескриптор повинен мати здатність певною мірою обробляти інтенсивність, обертання, масштаб і афінні варіації. Одним із найвідоміших дескрипторів є [[Масштабоінваріантне ознакове перетворення|Scale-invariant Feature Transform]] (SIFT).<ref name="Loweiccv1999">{{Cite book
|title=Proceedings Ninth IEEE International Conference on Computer Vision
|last=Vidal-Naquet
|last2=Ullman
|year=1999
|pages=1150–1157
|chapter=Object recognition with informative features and linear classification
|doi=10.1109/ICCV.2003.1238356
|isbn=978-0-7695-1950-0
}}</ref> SIFT перетворює кожен патч у 128-вимірний вектор. Після цього кроку кожне зображення є набором векторів однакової розмірності (128 для SIFT), де порядок різних векторів не має значення.

=== Генерація кодової книги ===
Останнім кроком для моделі BoW є перетворення векторно представлених патчів на «кодові слова» (аналогічні словам у текстових документах), що також створює «кодову книгу» (аналогію словнику слів). Кодове слово можна розглядати як представник кількох подібних патчів. Одним із простих методів є [[Кластеризація методом к–середніх|кластеризація k-середніх]] по всіх векторах.<ref>{{Cite journal|last=T. Leung|last2=J. Malik|author-link2=Jitendra Malik|year=2001|title=Representing and recognizing the visual appearance of materials using three-dimensional textons|url=http://www.cs.berkeley.edu/~malik/papers/LM-3dtexton.pdf|journal=International Journal of Computer Vision|volume=43|issue=1|pages=29–44|doi=10.1023/A:1011126920638}}</ref> Потім кодові слова визначаються як центри вивчених кластерів. Кількість кластерів є розміром кодової книги (аналогічно розміру словника слів).

Таким чином, кожна пляма в зображенні зіставляється з певним кодовим словом через процес кластеризації, і зображення може бути представлено [[Гістограма|гістограмою]] кодових слів.

== Навчання та розпізнавання на основі моделі BoW ==
Дослідники комп'ютерного зору розробили кілька методів навчання, щоб використовувати модель BoW для завдань, пов'язаних із зображеннями, наприклад, [[Категоризація об'єктів|категоризації об'єктів]] . Ці методи можна умовно розділити на дві категорії: неконтрольовані та контрольовані моделі. Для проблеми категоризації кількох міток [[Матриця невідповідностей|матрицю плутанини]] можна використовувати як показник оцінки.

=== Моделі без нагляду ===
Ось деякі позначки для цього розділу. Припустимо, розмір кодової книги дорівнює <math>V</math> .

* <math>w</math> : кожен патч <math>w</math> є V-вимірним вектором, один компонент якого дорівнює одиниці, а всі інші компоненти дорівнюють нулю (для налаштування кластеризації k-середніх одиничний компонент, що дорівнює одиниці, вказує на кластер, який <math>w</math> належить до). The <math>v</math>-го кодового слова в кодовій книзі можна представити як <math>w^v=1</math> і <math>w^u = 0</math> для <math>u\neq v</math> .
* <math>\mathbf{w}</math> : кожне зображення представлено <math>\mathbf{w}=[w_1, w_2, \cdots, w_N]</math>, усі патчі на зображенні
* <math>d_j</math> : <math>j</math>-те зображення в колекції зображень
* <math>c</math> : категорія зображення
* <math>z</math> : основна думка або тема патча
* <math>\pi</math> : пропорція суміші

Оскільки модель BoW є аналогією моделі BoW в НЛП, генеративні моделі, розроблені в текстових областях, також можуть бути адаптовані в комп'ютерному зорі. Обговорюються проста наївна модель Баєса та ієрархічні моделі Баєса.
[[Файл:Forest of synthetic pyramidal dendrites grown using Cajal's laws of neuronal branching.png|міні|Нейронна мережа Наївного Баєса]]

== Наївний Баєс ==
Найпростішим є [[Наївний баєсів класифікатор|наївний класифікатор Баєса]] .<ref name=":0" /> Використовуючи мову [[Графова модель|графічних моделей]], наївний класифікатор Баєса описується наведеним нижче рівнянням. Основна ідея (або припущення) цієї моделі полягає в тому, що кожна категорія має свій власний розподіл у книгах кодів і що розподіли кожної категорії помітно відрізняються. Візьмемо для прикладу категорію обличчя та категорію автомобіля. Категорія обличчя може підкреслювати кодові слова, які представляють «ніс», «око» та «рот», тоді як категорія автомобіля може підкреслювати кодові слова, які представляють «колесо» та «вікно». Отримавши набір навчальних прикладів, класифікатор вивчає різні розподіли для різних категорій. Рішення про категоризацію прийнято в

<math>c^*=\arg \max_c p(c|\mathbf{w}) = \arg \max_c p(c)p(\mathbf{w}|c)=\arg \max_c p(c)\prod_{n=1}^Np(w_n|c)</math>
{{Науковець
|ім'я = Томас Баєс
|оригінал імені = англ. Thomas Bayes
|зображення = https://www.google.com/url?sa=i&url=https%3A%2F%2Fuk.wikipedia.org%2Fwiki%2F%25D0%25A2%25D0%25BE%25D0%25BC%25D0%25B0%25D1%2581_%25D0%2591%25D0%25B0%25D1%2594%25D1%2581&psig=AOvVaw3fx0vHrgtSTvzXSj21VhOE&ust=1701526421175000&source=images&cd=vfe&opi=8997844
|підпис = Вчений,що винайшов вищезгаданий метод.
|національність = Англієць
|галузь = Теорія імовірностей
|відомий завдяки = Теорема Баєса,метод Наївного Баєса
}}
Оскільки наївний класифікатор Баєса простий, але ефективний, його зазвичай використовують як базовий метод для порівняння.

== Ієрархічні баєсівські моделі ==
Основне припущення наївної моделі Баєса іноді не виконується. Наприклад, зображення природної сцени може містити кілька різних тем. Імовірніший прихований семантичний аналіз (pLSA)<ref>{{Cite book
|title=Tenth IEEE International Conference on Computer Vision (ICCV'05) Volume 1
|last=Sivic
|first=J.
|last2=Russell
|first2=B.C.
|last3=Efros
|first3=A.A.
|last4=Zisserman
|first4=A.
|last5=Freeman
|first5=W.T.
|year=2005
|pages=370
|chapter=Discovering objects and their location in images
|doi=10.1109/ICCV.2005.77
|isbn=978-0-7695-2334-7
|archiveurl=https://web.archive.org/web/20200131172436/http://www.robots.ox.ac.uk/~vgg/publications/papers/sivic05b.pdf
|archivedate=2020-01-31
|accessdate=2007-12-10
|url-status=dead
}}</ref> і прихований розподіл Діріхле (LDA)<ref name="bleijmlr2003">{{Cite journal|last=D. Blei|last2=A. Ng|last3=M. Jordan|year=2003|editor-last=Lafferty|editor-first=John|title=Latent Dirichlet allocation|url=http://www.cs.princeton.edu/~blei/papers/BleiNgJordan2003.pdf|journal=Journal of Machine Learning Research|volume=3|issue=4–5|pages=993–1022|doi=10.1162/jmlr.2003.3.4-5.993|archive-url=https://web.archive.org/web/20080822212053/http://www.cs.princeton.edu/~blei/papers/BleiNgJordan2003.pdf|archive-date=2008-08-22|access-date=2007-12-10|name-list-style=amp|url-status=dead}}</ref> є двома популярними тематичними моделями з текстових доменів для вирішення схожої проблеми з кількома «темами». Візьмемо для прикладу LDA. Для моделювання зображень природної сцени за допомогою LDA проводиться аналогія з аналізом документів:
[[Файл:Categorisation-hierarchy-top2down.svg|міні|Ієрархія баєвської моделі]]

* категорія зображення зіставляється з категорією документа;
* пропорція суміші основної думки відображає пропорцію суміші тем;
* індекс основної думки зіставляється з індексом теми;
* кодове слово зіставляється зі словом.

Цей метод показує багатообіцяні результати в класифікації природних сцен за [http://vision.stanford.edu/resources_links.html 13 категоріями природних сцен] .<ref name="feifeicvpr20052">{{Cite book
|title=2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05)
|last=Fei-Fei Li
|last2=Perona
|first2=P.
|year=2005
|volume=2
|pages=524–531
|chapter=A Bayesian Hierarchical Model for Learning Natural Scene Categories
|doi=10.1109/CVPR.2005.16
|isbn=978-0-7695-2372-9
}}</ref>

== Контрольовані моделі ==
Оскільки зображення представлені на основі моделі BoW, можна спробувати будь-яку дискримінаційну модель, придатну для категоризації текстових документів, наприклад [[Метод опорних векторів|машину опорних векторів]] і AdaBoost .<ref>{{Cite book
|title=2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05)
|last=Serre
|first=T.
|last2=Wolf
|first2=L.
|last3=Poggio
|first3=T.
|year=2005
|volume=2
|pages=994
|chapter=Object Recognition with Features Inspired by Visual Cortex
|doi=10.1109/CVPR.2005.254
|isbn=978-0-7695-2372-9
|archiveurl=https://web.archive.org/web/20170706051952/http://cbcl.mit.edu/projects/cbcl/publications/ps/serre-PID73457-05.pdf
|archivedate=2017-07-06
|accessdate=2007-12-10
|url-status=dead
}}</ref> [[Ядрові методи|Трюк ядра]] також застосовний, коли використовується класифікатор на основі ядра, наприклад SVM. Ядро Pyramid match є нещодавно розробленим на основі моделі BoW. Підхід до локальних особливостей використання представлення моделі BoW, навченого класифікаторами машинного навчання з різними ядрами (наприклад, EMD-ядро та <math>X^2</math> kernel) було ретельно протестовано в області розпізнавання текстур і об'єктів.<ref name="bogkernelijcv2007">{{Cite journal|last=Jianguo Zhang|last2=Marcin Marszałek|last3=Svetlana Lazebnik|author-link3=Svetlana Lazebnik|last4=Cordelia Schmid|author-link4=Cordelia Schmid|year=2007|title=Local Features and Kernels for Classification of Texture and Object Categories: a Comprehensive Study|url=http://lear.inrialpes.fr/pubs/2007/ZMLS07/ZhangMarszalekLazebnikSchmid-IJCV07-ClassificationStudy.pdf|journal=International Journal of Computer Vision|volume=73|issue=2|pages=213–238|doi=10.1007/s11263-006-9794-4|accessdate=2023-12-01|archive-date=2018-04-13|archive-url=https://web.archive.org/web/20180413020221/http://lear.inrialpes.fr/pubs/2007/ZMLS07/ZhangMarszalekLazebnikSchmid-IJCV07-ClassificationStudy.pdf}}</ref> Повідомлялося про дуже обнадійливі результати щодо ряду наборів даних. Цей підхід<ref name="bogkernelijcv2007" /> досяг дуже вражаючих результатів у [https://web.archive.org/web/20071029215514/http://www.pascal-network.org/challenges/VOC/ PASCAL Visual Object Classes Challenge] .

=== Ядро відповідності піраміди ===
[[Файл:Euclidean distance in R.gif|ліворуч|міні|Зображення до «Ядра відповідності піраміди»]]

Ядро відповідності піраміди ({{lang-en|pyramid match kernel}})<ref name="pyramidiccv2005">{{Cite book
|title=Tenth IEEE International Conference on Computer Vision (ICCV'05) Volume 1
|last=Grauman
|first=K.
|last2=Darrell
|first2=T.
|year=2005
|pages=1458
|chapter=The pyramid match kernel: discriminative classification with sets of image features
|doi=10.1109/ICCV.2005.239
|isbn=978-0-7695-2334-7
}}</ref>&nbsp;— це швидкий алгоритм (лінійна складність замість класичної квадратичної складності) ядерна функція (задовольняє умову Мерсера), яка відображає функції BoW або набір функцій у високій розмірності на багатовимірні гістограми з різною роздільною здатністю . Перевагою цих гістограм із різною роздільною здатністю є їх здатність фіксувати супутні елементи. Ядро пірамідної відповідності будує гістограми з різною роздільною здатністю, об'єднуючи точки даних у дискретні області зростаючого розміру. Таким чином, точки, які не збігаються при високій роздільній здатності, мають шанс збігатися при низькій роздільній здатності. Ядро пірамідної відповідності виконує приблизну відповідність подібності без явного пошуку чи обчислення відстані. Замість цього він перетинає гістограми для наближення оптимального збігу. Відповідно, час обчислення є лише лінійним за кількістю ознак. Порівняно з іншими підходами до ядра, ядро пірамідального збігу є набагато швидшим, але забезпечує еквівалентну точність. Ядро пірамідної відповідності було застосовано до [https://web.archive.org/web/20080124115650/http://www.mis.informatik.tu-darmstadt.de/Research/Projects/categorization/eth80-db.html бази даних ETH-80] і [https://web.archive.org/web/20080121104826/http://vision.cs.princeton.edu/resources_links.html бази даних Caltech 101] із багатообіцяючими результатами.<ref name="pyramidiccv2005" /><ref>{{Cite book
|title=2009 IEEE Conference on Computer Vision and Pattern Recognition
|last=Jianchao Yang
|last2=Kai Yu
|last3=Yihong Gong
|last4=Huang
|first4=T.
|year=2009
|pages=1794
|chapter=Linear spatial pyramid matching using sparse coding for image classification
|doi=10.1109/CVPR.2009.5206757
|isbn=978-1-4244-3992-8
|archiveurl=https://web.archive.org/web/20190320012627/http://www.ifp.illinois.edu/~jyang29/ScSPM.htm
|archivedate=2019-03-20
|accessdate=2011-09-09
|url-status=dead
}}</ref>

== Обмеження та останні розробки ==
Одним із сумнозвісних недоліків BoW є те, що він ігнорує просторові відносини між патчами, які дуже важливі для представлення зображення. Дослідники запропонували кілька методів включення просторової інформації. Для покращення рівня функцій функції [[Корелограма|корелограми]] можуть фіксувати просторову співпояву функцій.<ref>{{Cite book
|title=2006 IEEE Computer Society Conference on Computer Vision and Pattern Recognition - Volume 2 (CVPR'06)
|last=Savarese
|first=S.
|last2=Winn
|first2=J.
|last3=Criminisi
|first3=A.
|year=2006
|volume=2
|pages=2033
|chapter=Discriminative Object Class Models of Appearance and Shape by Correlatons
|doi=10.1109/CVPR.2006.102
|isbn=978-0-7695-2597-6
|archiveurl=https://web.archive.org/web/20131029185403/http://johnwinn.org/Publications/papers/Savarese_Winn_Criminisi_Correlatons_CVPR2006.pdf
|archivedate=2013-10-29
|accessdate=2007-12-10
|url-status=dead
}}</ref> Для генеративних моделей також враховуються відносні позиції<ref>{{Cite book
|title=Tenth IEEE International Conference on Computer Vision (ICCV'05) Volume 1
|last=Sudderth
|first=E.B.
|last2=Torralba
|first2=A.
|last3=Freeman
|first3=W.T.
|last4=Willsky
|first4=A.S.
|year=2005
|pages=1331
|chapter=Learning hierarchical models of scenes, objects, and parts
|doi=10.1109/ICCV.2005.137
|isbn=978-0-7695-2334-7
|archiveurl=https://web.archive.org/web/20190203220118/http://ssg.mit.edu/~esuddert/papers/iccv05.pdf
|archivedate=2019-02-03
|accessdate=2007-12-10
|url-status=dead
}}</ref> кодових слів. Модель ієрархічної форми та зовнішнього вигляду для людських дій<ref>{{Cite book
|title=2007 IEEE Conference on Computer Vision and Pattern Recognition
|last=Niebles
|first=Juan Carlos
|last2=Li Fei-Fei
|year=2007
|pages=1
|chapter=A Hierarchical Model of Shape and Appearance for Human Action Classification
|doi=10.1109/CVPR.2007.383132
|isbn=978-1-4244-1179-5
}}</ref> вводить новий шар частин (модель сузір'я) між пропорцією суміші та функціями BoW, який фіксує просторові відносини між частинами в шарі. Для дискримінаційних моделей просторове пірамідне зіставлення<ref>{{Cite book
|title=2006 IEEE Computer Society Conference on Computer Vision and Pattern Recognition - Volume 2 (CVPR'06)
|last=Lazebnik
|first=S.
|last2=Schmid
|first2=C.
|last3=Ponce
|first3=J.
|year=2006
|volume=2
|pages=2169
|chapter=Beyond Bags of Features: Spatial Pyramid Matching for Recognizing Natural Scene Categories
|doi=10.1109/CVPR.2006.68
|isbn=978-0-7695-2597-6
|archiveurl=https://web.archive.org/web/20180508181616/http://www-cvr.ai.uiuc.edu/ponce_grp/publication/paper/cvpr06b.pdf
|archivedate=2018-05-08
|accessdate=2007-12-10
|author2-link=Cordelia Schmid
|url-status=dead
}}</ref> виконує пірамідне зіставлення шляхом поділу зображення на дедалі точніші підобласті та обчислення гістограм локальних особливостей у кожній підобласті. Нещодавно доповнення локальних дескрипторів зображення (тобто [[Масштабоінваріантне ознакове перетворення|SIFT]](''scale-invariant feature transform'') їх просторовими координатами, нормалізованими шириною та висотою зображення, виявилося надійним і простим підходом до кодування просторових координат<ref name="koniusz2013">{{Cite journal|last=Koniusz|first=Piotr|last2=Yan|first2=Fei|last3=Mikolajczyk|first3=Krystian|date=2013-05-01|title=Comparison of mid-level feature coding approaches and pooling strategies in visual concept detection|journal=Computer Vision and Image Understanding|volume=117|issue=5|pages=479–492|doi=10.1016/j.cviu.2012.10.010|issn=1077-3142}}</ref><ref name="koniusz2017">{{Cite journal|last=Koniusz|first=Piotr|last2=Yan|first2=Fei|last3=Gosselin|first3=Philippe Henri|last4=Mikolajczyk|first4=Krystian|date=2017-02-24|title=Higher-order occurrence pooling for bags-of-words: Visual concept detection|url=https://hal.archives-ouvertes.fr/hal-01356149/file/koniusz16pami.pdf|journal=IEEE Transactions on Pattern Analysis and Machine Intelligence|volume=39|issue=2|pages=313–326|doi=10.1109/TPAMI.2016.2545667|issn=0162-8828|pmid=27019477|hdl-access=free}}</ref>, який вводить просторову інформацію в модель BoW.

Модель BoW ще не була ретельно перевірена на незмінність точки огляду та незмінність масштабу, і продуктивність неясна. Крім того, модель BoW для сегментації та локалізації об'єктів недостатньо зрозуміла.<ref name="cvprcourse2">{{Cite web|last=L. Fei-Fei|last2=R. Fergus|last3=A. Torralba|title=Recognizing and Learning Object Categories, CVPR 2007 short course|url=http://people.csail.mit.edu/torralba/shortCourseRLOC/index.html}}</ref>

Систематичне порівняння конвеєрів класифікації виявило, що кодування статистики першого та другого порядку (Вектор локально агрегованих дескрипторів (Vector of Locally Aggregated Descriptors, VLAD)<ref>{{Cite book
|url=https://hal.inria.fr/inria-00548637/file/jegou_compactimagerepresentation.pdf
|title=2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition
|last=Jégou
|first=H.
|last2=Douze
|first2=M.
|last3=Schmid
|first3=C.
|last4=Pérez
|first4=P.
|date=2010-06-01
|pages=3304–3311
|chapter=Aggregating local descriptors into a compact image representation
|doi=10.1109/CVPR.2010.5540039
|isbn=978-1-4244-6984-0
}}</ref> і Вектор Фішера ({{iw|Fisher_kernel|Fisher Vector|en|Fisher_kernel}}, FV)) значно підвищило точність класифікації порівняно з BoW, а також зменшило розмір книги кодів, таким чином зменшуючи обчислювальні зусилля для створення кодової книги.<ref>{{Cite journal|last=Seeland|first=Marco|last2=Rzanny|first2=Michael|last3=Alaqraa|first3=Nedal|last4=Wäldchen|first4=Jana|last5=Mäder|first5=Patrick|date=2017-02-24|title=Plant species classification using flower images—A comparative study of local feature representations|journal=PLOS ONE|volume=12|issue=2|pages=e0170629|bibcode=2017PLoSO..1270629S|doi=10.1371/journal.pone.0170629|issn=1932-6203|pmc=5325198|pmid=28234999|doi-access=free}}</ref> Крім того, нещодавнє детальне порівняння методів кодування та об'єднання<ref name="koniusz20172">{{Cite journal|last=Koniusz|first=Piotr|last2=Yan|first2=Fei|last3=Gosselin|first3=Philippe Henri|last4=Mikolajczyk|first4=Krystian|date=2017-02-24|title=Higher-order occurrence pooling for bags-of-words: Visual concept detection|url=https://hal.archives-ouvertes.fr/hal-01356149/file/koniusz16pami.pdf|journal=IEEE Transactions on Pattern Analysis and Machine Intelligence|volume=39|issue=2|pages=313–326|doi=10.1109/TPAMI.2016.2545667|issn=0162-8828|pmid=27019477|hdl-access=free}}</ref> для BoW показало, що статистика другого порядку в поєднанні з [[Розріджене наближення|розрідженим кодуванням]] і відповідним об'єднанням, таким як нормалізація потужності, може ще більше перевершити вектори Фішера та навіть наблизитися до результатів простих моделей [[Згорткова нейронна мережа|згорткової нейронної мережі.]] на деяких наборах даних розпізнавання об'єктів, таких як [[Список наборів даних для досліджень з машинного навчання|Oxford Flower Dataset 102]] .

== Див. також ==
* [[Доречно-векторна машина]], ймовірнісна розріджена ядрова модель, ідентична у функційному вигляді до ОВМ
* [[Послідовна мінімальна оптимізація]]
* [[Методологія картографування]]
* [[Модель векторного простору]]
* [[Модель «торба слів»]]
* [[Конструювання ознак]]
* [[Об'єктно-орієнтоване програмування]]
* [[Згорткова нейронна мережа]]
* [[Простір масштабів]]

== Примітки ==
{{reflist}}

== Джерела ==
* {{cite conference|author1=G. Csurka|author2=C. Dance|author3=L.X. Fan|author4=J. Willamowski|author5=C. Bray|name-list-style=amp|title=Visual categorization with bags of keypoints|book-title=Proc. of ECCV International Workshop on Statistical Learning in Computer Vision|year=2004|url=http://citeseer.ist.psu.edu/viewdoc/download?doi=10.1.1.72.604&rep=rep1&type=pdf}}
* {{cite conference|author1=J. Sivic|author2=A. Zisserman|name-list-style=amp|title=Video Google: A Text Retrieval Approach to Object Matching in Videos|book-title=Proc. of ICCV|year=2003|url=http://www.robots.ox.ac.uk/~vgg/publications/papers/sivic03.pdf}}{{Dead link|date=September 2023|bot=InternetArchiveBot|fix-attempted=yes}}
* {{cite book
|title=2005 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'05)
|author=Fei-Fei Li
|last2=Perona
|first2=P.
|year=2005
|volume=2
|pages=524–531
|chapter=A Bayesian Hierarchical Model for Learning Natural Scene Categories
|doi=10.1109/CVPR.2005.16
|isbn=978-0-7695-2372-9
|s2cid=6387937
}}
* {{cite web|author1=L. Fei-Fei|author2=R. Fergus|author3=A. Torralba|name-list-style=amp|title=Recognizing and Learning Object Categories, CVPR 2007 short course|url=http://people.csail.mit.edu/torralba/shortCourseRLOC/index.html}}
* {{cite journal|last1=Qiu|first1=G.|year=2002|title=Indexing chromatic and achromatic patterns for content-based colour image retrieval|url=http://www.cs.nott.ac.uk/~qiu/webpages/Papers/ColorPatternRecognition.pdf|journal=Pattern Recognition|volume=35|issue=8|pages=1675–1686|bibcode=2002PatRe..35.1675Q|doi=10.1016/S0031-3203(01)00162-5}}
* {{cite journal|author=T. Leung|author2=J. Malik|author2-link=Jitendra Malik|year=2001|title=Representing and recognizing the visual appearance of materials using three-dimensional textons|url=http://www.cs.berkeley.edu/~malik/papers/LM-3dtexton.pdf|journal=International Journal of Computer Vision|volume=43|issue=1|pages=29–44|doi=10.1023/A:1011126920638|s2cid=14915716}}
* {{cite conference|author=T. Hoffman|title=Probabilistic Latent Semantic Analysis|url=http://www.cs.brown.edu/~th/papers/Hofmann-UAI99.pdf|book-title=Proc. of the Fifteenth Conference on Uncertainty in Artificial Intelligence|year=1999|access-date=2007-12-10|archive-url=https://web.archive.org/web/20070710083034/http://www.cs.brown.edu/~th/papers/Hofmann-UAI99.pdf|archive-date=2007-07-10|url-status=dead}}
* {{cite journal|author=D. Blei|author2=A. Ng|author3=M. Jordan|year=2003|editor1-last=Lafferty|editor1-first=John|title=Latent Dirichlet allocation|url=http://www.cs.princeton.edu/~blei/papers/BleiNgJordan2003.pdf|journal=Journal of Machine Learning Research|volume=3|issue=4–5|pages=993–1022|doi=10.1162/jmlr.2003.3.4-5.993|archive-url=https://web.archive.org/web/20080822212053/http://www.cs.princeton.edu/~blei/papers/BleiNgJordan2003.pdf|archive-date=2008-08-22|access-date=2007-12-10|name-list-style=amp|url-status=dead}}
* {{cite journal|author1=Jianguo Zhang|author2=Marcin Marszałek|author3=Svetlana Lazebnik|author3-link=Svetlana Lazebnik|author4=Cordelia Schmid|author4-link=Cordelia Schmid|year=2007|title=Local Features and Kernels for Classification of Texture and Object Categories: a Comprehensive Study|url=http://lear.inrialpes.fr/pubs/2007/ZMLS07/ZhangMarszalekLazebnikSchmid-IJCV07-ClassificationStudy.pdf|journal=International Journal of Computer Vision|volume=73|issue=2|pages=213–238|doi=10.1007/s11263-006-9794-4|s2cid=1486613}}
* {{Cite journal|last1=Koniusz|first1=Piotr|last2=Yan|first2=Fei|last3=Mikolajczyk|first3=Krystian|date=2013-05-01|title=Comparison of mid-level feature coding approaches and pooling strategies in visual concept detection|journal=Computer Vision and Image Understanding|volume=117|issue=5|pages=479–492|doi=10.1016/j.cviu.2012.10.010|issn=1077-3142}}
* {{Cite book
|url=https://hal.inria.fr/inria-00548637/file/jegou_compactimagerepresentation.pdf
|title=2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition
|last1=Jégou
|first1=H.
|last2=Douze
|first2=M.
|last3=Schmid
|first3=C.
|last4=Pérez
|first4=P.
|date=2010-06-01
|pages=3304–3311
|chapter=Aggregating local descriptors into a compact image representation
|doi=10.1109/CVPR.2010.5540039
|isbn=978-1-4244-6984-0
|s2cid=1912782
}}

== Посилання ==
* [https://towardsdatascience.com/bag-of-visual-words-in-a-nutshell-9ceea97ce0fb Сумка візуальних слів у двох словах,] короткий посібник від Бетеї Давіди.
* [http://people.csail.mit.edu/fergus/iccv2005/bagwords.html Демо для двох класифікаторів сумок слів] від Л. Фей-Фея, Р. Фергуса та А. Торральби.
* [https://web.archive.org/web/20101203074412/http://www.vision.caltech.edu/malaa/software/research/image-search/ Набір інструментів Caltech Large Scale Image Search Toolbox]: набір інструментів Matlab/C++, який реалізує пошук у перевернутому файлі для моделі Bag of Words. Він також містить реалізації для швидкого приблизного пошуку найближчого сусіда з використанням рандомізованого [[K-вимірне дерево|kd-дерева]], хешування з урахуванням місцевості та [[Hierarchical k-means|ієрархічних k-середніх]] .
* [https://github.com/dorian3d/DBoW2 Бібліотека DBoW2]: бібліотека, яка реалізує швидкий пакет слів у C++ із підтримкою [[OpenCV]] .

{{Бібліоінформація}}
[[Категорія:Машинне навчання]]
[[Категорія:Комп'ютерні науки]]
[[Категорія:Статистична класифікація]]
[[Категорія:Алгоритми класифікації]]
[[Категорія:Опорно-векторні машини]]
[[Категорія:Алгоритми кластерування даних]]