بهبودی در ماشین بردار پشتیبان دوگانه حاشیه-پارامتری

سهله, علی; صلاحی, مازیار; اسکندری, صادق

doi:10.22105/dmor.2021.281369.1372

نوع مقاله : مقاله پژوهشی

نویسندگان

¹ گروه ریاضی کاربردی، دانشکده علوم ریاضی، دانشگاه گیلان، رشت، ایران.

² گروه علوم کامپیوتر، دانشکده علوم ریاضی، دانشگاه گیلان، رشت، ایران.

https://doi.org/10.22105/dmor.2021.281369.1372

چکیده

هدف: هدف در این مقاله ارایه یک نوع بهبودیافته از مدل ماشین بردار پشتیبان دوگانه حاشیه-پارامتری به‌منظور بهبود عملکرد کلاس‌بندی است.
روش‌شناسی پژوهش: با جایگزین کردن متغیر جدید در تابع هدف، نقاط یک کلاس از ابرصفحه حاشیه-پارامتری کلاس دیگر تا جای ممکن دور می‌شود.
یافته‌ها: مدل بهبودیافته در هر دو حالت خطی و غیرخطی محدب است. همچنین آزمایش‌های عددی بر روی داده‌های کتابخانه‌ای UCI نشان دهنده عملکرد بهتر مدل پیشنهادی در مقایسه با دو مدل مشابه در مقایسه با دو مدل مشابه در حالت‌های خطی و غیرخطی از نظر دقت است.
اصالت/ارزش افزوده علمی: مطالعات قبلی انجام شده در مدل ماشین بردار پشتیبان دوگانه حاشیه-پارامتری که از طریق روش‌های مانند وزن‌دار کردن داده‌ها، تبدیل کردن آن به مدل نامقید و یا اضافه کردن عبارت جدید در تابع هدف دقت مسئله را افزایش می‌دهند، تضمین‌کننده دور بودن تمام نقاط از ابرصفحه و قرار داشتن آن‌ها در نیم فضای منفی نیستند؛ اما این بررسی یک رویکرد جدید برای رفع این مشکل ماشین بردار پشتیبان دوگانه حاشیه-پارامتری ارایه می‌دهد.

کلیدواژه‌ها

20.1001.1.25385097.1401.7.4.1.2

موضوعات

مدل‌سازی ریاضی/ تصادفی/ پویا/احتمالی/فازی

عنوان مقاله [English]

An improvement on twin parametric-margin support vector machine

نویسندگان [English]

Ali Sahleh ¹
Maziar Salahi ¹
Sadegh Eskandari ²

¹ Department of Applied Mathematics, Faculty of Mathematical Sciences, University of Guilan, Rasht, Iran.

² Department of Computer Science, Faculty of Mathematical Sciences, University of Guilan, Rasht, Iran.

چکیده [English]

Purpose: The aim of this paper is to present an enhanced variant of Twin Parametric-Margin Support Vector Machine (TPMSVM) that improves classification performance.
Methodology: By replacing a variable in the objective function, we keep the samples of one class farther from the parametric margin hyperplane of the other class.
Findings: The enhanced model is convex for both linear and nonlinear cases. Also, numerical experiments on UCI datasets show that the enhanced model performs better compared to two similar models for both linear and nonlinear cases.
Originality/Value: The previous studies of TPMSVM that increased the accuracy through approaches such as assigning weights to data sample, converting it into an unconstrained model and adding a new term in the objective function, did not guarantee that all samples will be far and on the negative side of the margin hyperplane. However, this study provides an approach to overcome this disadvantage of TPMSVM.

کلیدواژه‌ها [English]

Twin SVM
Heteroscedastic noise model
Classification
Parametric-margin model

مراجع

Cortes, C., & Vapnik, V. (1995). Support vector machine. Machine learning, 20(3), 273-297.

Friedman, M. (1940). A comparison of alternative tests of significance for the problem of m rankings. The annals of mathematical statistics, 11(1), 86-92.

Gupta, D., Borah, P., & Prasad, M. (2017, November). A fuzzy based Lagrangian twin parametric-margin support vector machine (FLTPMSVM). 2017 IEEE symposium series on computational intelligence (SSCI) (pp. 1-7). IEEE.

Hao, P. Y. (2010). New support vector algorithms with parametric insensitive/margin model. Neural networks, 23(1), 60-73.

Iman, R. L., & Davenport, J. M. (1980). Approximations of the critical region of the fbietkan statistic. Communications in statistics-theory and methods, 9(6), 571-595.

Jayadeva, H. M. (2007). Studies on nitrogen losses, methane emission and productivity of rice under crop establishment techquies (Doctoral dissertation, University of Agricultural Sciences). Retrieved from https://www.scitechnol.com/author-profile/H_M_JAYADEVA/

Jimenez-Castano, C., Alvarez-Meza, A., & Orozco-Gutierrez, A. (2020). Enhanced automatic twin support vector machine for imbalanced data classification. Pattern recognition, 107, 107442. https://doi.org/10.1016/j.patcog.2020.107442

Lee, I. G., Zhang, Q., Yoon, S. W., & Won, D. (2020). A mixed integer linear programming support vector machine for cost-effective feature selection. Knowledge-based systems, 203, 106145. https://doi.org/10.1016/j.knosys.2020.106145

Ma, J., & Shen, J. (2020). RETRACTED: a novel twin minimax probability machine for classification and regression. Knowledge-based systems, 196, 105703. https://doi.org/10.1016/j.knosys.2020.105703

Maldonado, S., López, J., & Carrasco, M. (2016). A second-order cone programming formulation for twin support vector machines. Applied intelligence, 45(2), 265-276.

Mercer, J. (1909). Xvi. functions of positive and negative type, and their connection the theory of integral equations. Philosophical transactions of the royal society of London. Series A, containing papers of a mathematical or physical character, 209(441-458), 415-446.

Nasiri, J. A., & Mir, A. M. (2020). An enhanced KNN-based twin support vector machine with stable learning rules. Neural computing and applications, 32(16), 12949-12969.

Peng, X. (2011). TPMSVM: a novel twin parametric-margin support vector machine for pattern recognition. Pattern recognition, 44(10-11), 2678-2692.

Piryonesi, S. M., & El-Diraby, T. E. (2020). Data analytics in asset management: cost-effective prediction of the pavement condition index. Journal of infrastructure systems, 26(1), 04019036. https://ascelibrary.org/doi/abs/10.1061/%28ASCE%29IS.1943-555X.0000512

Provost, F., & Fawcett, T. (2013). Data science for business: what you need to know about data mining and data-analytic thinking. O'Reilly Media, Inc.

Rastogi, R., Saigal, P., & Chandra, S. (2018). Angle-based twin parametric-margin support vector machine for pattern classification. Knowledge-based systems, 139, 64-77.

Rastogi, R., Sharma, S., & Chandra, S. (2018). Robust parametric twin support vector machine for pattern classification. Neural processing letters, 47(1), 293-323.

Schölkopf, B. (2001). Statistical learning and kernel methods. In Data fusion and perception (pp. 3-24). Springer, Vienna.

Schölkopf, B., Smola, A. J., Williamson, R. C., & Bartlett, P. L. (2000). New support vector algorithms. Neural computation, 12(5), 1207-1245.

Vapnik, V. (1998). The support vector method of function estimation. In Nonlinear modeling (pp. 55-85). Springer, Boston, MA.

Wang, Z., Shao, Y. H., Bai, L., Li, C. N., Liu, L. M., & Deng, N. Y. (2018). Insensitive stochastic gradient twin support vector machines for large scale problems. Information sciences, 462, 114-131.

تصمیم گیری و تحقیق در عملیات

بهبودی در ماشین بردار پشتیبان دوگانه حاشیه-پارامتری

مراجع

مراجع

دوره 7، شماره 4
آبان 1401
صفحه 503-514

بهبودی در ماشین بردار پشتیبان دوگانه حاشیه-پارامتری

مراجع

مراجع

دوره 7، شماره 4آبان 1401صفحه 503-514

دوره 7، شماره 4
آبان 1401
صفحه 503-514