Title: | Full covariance gaussian mixture models evaluation on GPU |
Other Titles: | Vyhodnocování směsí Gaussovských modelů s plnou kovarianční maticí na GPU |
Authors: | Vaněk, Jan Trmal, Jan Psutka, Josef V. Psutka, Josef |
Citation: | VANĚK, Jan; TRMAL, Jan; PSUTKA, Josef V.; PSUTKA, Josef. Full covariance gaussian mixture models evaluation on GPU. In: IEEE international symposium on signal processing and information technology. Vietnam: IEEE Press, 2012, p. [1-5]. ISBN 978-1-4673-5604-6. |
Issue Date: | 2012 |
Publisher: | IEEE Press |
Document type: | článek article |
URI: | http://www.kky.zcu.cz/cs/publications/VanekJ_2012_FullCovariance http://hdl.handle.net/11025/16961 |
ISBN: | 978-1-4673-5604-6 |
Keywords: | směsi Gaussovských modelů;plné kovarianční matice;automatické rozpoznávání řeči;GPU;CUDA;OpenCL |
Keywords in different language: | Gaussian mixture models;full covariance;automatic speech recognition;GPU;CUDA;OpenCL |
Abstract: | Směsi Gaussovských modelů jsou často používány v mnoha úlohách klasifikace či jiného zpracování dad. Používány jsou jako modely hustoty pravděpodobnosti v prostorech vyšších dimenzí. V případech, kdy je dimenze prostoru příznakových vektorů relativně veliká (např. v systémech automatického rozpoznávání řeči), jsou používány smesi Gaussovských modelů s diagonální kovarianční maticí, spíše než modely s plnou kovariancí. A to ze dvou důvodů: Prvním důvodem je problematičnost odhadu parametrů těchto plných kovariančních matic v případě omezeného množství trénovacích dat. Druhým důvodem je pak výrazně vyšší výpočetní náročnost vyhodnocování těchto modelů. Robustnost odhadů byla zkoumána v mnoha již publikovaných pracích. Tento článek popisuje efektivní implementaci výpočtu pravděpodobností těchto modelů na GPU a řeší tak problém velké výpočetní náročnosti. Výkonost byla testována na akustickém modelu systému automatického rozpoznávání řeči. Výsledky naší implementace ukazují, že i grafická karta levného notebooku je schopná zvlándnout vyhodnotit velké akustické modely ve reálném čase. Tři varianty algoritmu byly implementovány a porovnány mezi sebou na různých GPU: NVIDIA CUDA, NVIDIA OpenCL a ATI/AMD OpenCL. |
Abstract in different language: | Gaussian mixture models (GMMs) are often used in various data processing and classification tasks to model a continuous probability density in a multi-dimensional space. In cases, where the dimension of the feature space is relatively high (e.g. in the automatic speech recognition (ASR)), GMM with a higher number of Gaussians with diagonal covariances (DC) instead of full covariances (FC) is used from the two reasons. The first reason is a~problem how to estimate robust FC matrices with a~limited training data set. The second reason is a~much higher computational cost during the GMM evaluation. The first reason was addressed in many recent publications. In contrast, this paper describes an efficient implementation on Graphic Processing Unit (GPU) of the FC-GMM evaluation, which addresses the second reason. The performance was tested on acoustic models for ASR, and it is shown that even a low-end laptop GPU is capable to evaluate a large acoustic model in a fraction of the real speech time. Three variants of the algorithm were implemented and compared on various GPUs: NVIDIA CUDA, NVIDIA OpenCL, and ATI/AMD OpenCL. |
Rights: | © Jan Vaněk - Jan Trmal - Josef V. Psutka - Josef Psutka |
Appears in Collections: | Články / Articles (KIV) Články / Articles (KKY) |
Files in This Item:
File | Description | Size | Format | |
---|---|---|---|---|
VanekJ_2012_FullCovariance.pdf | Plný text | 357,73 kB | Adobe PDF | View/Open |
Please use this identifier to cite or link to this item:
http://hdl.handle.net/11025/16961
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.