Sentiment Analysis on IMDb Movie Reviews Using Hybrid Feature Extraction Method

Social Networking sites have become popular and common places for sharing wide range of emotions through short texts. These emotions include happiness, sadness, anxiety, fear, etc. Analyzing short texts helps in identifying the sentiment expressed by the crowd. Sentiment Analysis on IMDb movie reviews identifies the overall sentiment or opinion expressed by a reviewer towards a movie. Many researchers are working on pruning the sentiment analysis model that clearly identifies and distinguishes between a positive review and a negative review. In the proposed work, we show that the use of Hybrid features obtained by concatenating Machine Learning features (TF, TF-IDF) with Lexicon features (Positive-Negative word count, Connotation) gives better results both in terms of accuracy and complexity when tested against classifiers like SVM, Naïve Bayes, KNN and Maximum Entropy. The proposed model clearly differentiates between a positive review and negative review. Since understanding the context of the reviews plays an important role in classification, using hybrid features helps in capturing the context of the movie reviews and hence increases the accuracy of classification

A FRAMEWORK FOR ARABIC SENTIMENT ANALYSIS USING MACHINE LEARNING CLASSIFIERS

International audienceIn recent years, the use of Internet and online comments, expressed in natural language text, have increased significantly. However, it is difficult for humans to read all these comments and classify them appropriately. Consequently, an automatic approach is required to classify the unstructured data. In this paper, we propose a framework for Arabic language comprising of three steps: pre-processing, feature extraction and machine learning classification. The main aim of the proposed framework is to exploit the combination of different Arabic linguistic features. We evaluate the framework using two benchmark Arabic tweets datasets (ASTD, ATA), which enable sentiment polarity detection in general Arabic and Jordanian dialects. Comparative simulation results show that machine learning classifiers such as Support Vector Machine (SVM), Naive Bayes, MultiLayer Perceptron (MLP) and Logistic Regression-based produce the best performance by using a combination of n-gram features from Arabic tweets datasets. Finally, we evaluate the performance of our proposed framework using an Ensemble classifier approach, with promising results

Improved relative discriminative criterion using rare and informative terms and ringed seal search-support vector machine techniques for text classification

Classification has become an important task for automatically classifying the documents to their respective categories. For text classification, feature selection techniques are normally used to identify important features and to remove irrelevant, and noisy features for minimizing the dimensionality of feature space. These techniques are expected particularly to improve efficiency, accuracy, and comprehensibility of the classification models in text labeling problems. Most of the feature selection techniques utilize document and term frequencies to rank a term. Existing feature selection techniques (e.g. RDC, NRDC) consider frequently occurring terms and ignore rarely occurring terms count in a class. However, this study proposes the Improved Relative Discriminative Criterion (IRDC) technique which considers rarely occurring terms count. It is argued that rarely occurring terms count are also meaningful and important as frequently occurring terms in a class. The proposed IRDC is compared to the most recent feature selection techniques RDC and NRDC. The results reveal significant improvement by the proposed IRDC technique for feature selection in terms of precision 27%, recall 30%, macro-average 35% and micro- average 30%. Additionally, this study also proposes a hybrid algorithm named: Ringed Seal Search-Support Vector Machine (RSS-SVM) to improve the generalization and learning capability of the SVM. The proposed RSS-SVM optimizes kernel and penalty parameter with the help of RSS algorithm. The proposed RSS-SVM is compared to the most recent techniques GA-SVM and CS-SVM. The results show significant improvement by the proposed RSS-SVM for classification in terms of accuracy 18.8%, recall 15.68%, precision 15.62% and specificity 13.69%. In conclusion, the proposed IRDC has shown better performance as compare to existing techniques because its capability in considering rare and informative terms. Additionally, the proposed RSS- SVM has shown better performance as compare to existing techniques because it has capability to improve balance between exploration and exploitation

Assessment, Implication, and Analysis of Online Consumer Reviews: A Literature Review

The onset of e-marketplace, virtual communities and social networking has appreciated the influential capability of online consumer reviews (OCR) and therefore necessitate conglomeration of the body of knowledge. This article attempts to conceptually cluster academic literature in both management and technical domain. The study follows a framework which broadly clusters management research under two heads: OCR Assessment and OCR Implication (business implication). Parallel technical literature has been reviewed to reconcile methodologies adopted in the analysis of text content on the web, majorly reviews. Text mining through automated tools, algorithmic contribution (dominant majorly in technical stream literature) and manual assessment (derived from the stream of content analysis) has been studied in this review article. Literature survey of both the domains is analyzed to propose possible area for further research. Usage of text analysis methods along with statistical and data mining techniques to analyze review text and utilize the knowledge creation for solving managerial issues can possibly constitute further work. Available at: https://aisel.aisnet.org/pajais/vol9/iss2/4

Unionization method for changing opinion in sentiment classification using machine learning

Sentiment classification aims to determine whether an opinionated text expresses a positive, negative or neutral opinion. Most existing sentiment classification approaches have focused on supervised text classification techniques. One critical problem of sentiment classification is that a text collection may contain tens or hundreds of thousands of features, i.e. high dimensionality, which can be solved by dimension reduction approach. Nonetheless, although feature selection as a dimension reduction method can reduce feature space to provide a reduced feature subset, the size of the subset commonly requires further reduction. In this research, a novel dimension reduction approach called feature unionization is proposed to construct a more reduced feature subset. This approach works based on the combination of several features to create a more informative single feature. Another challenge of sentiment classification is the handling of concept drift problem in the learning step. Users’ opinions are changed due to evolution of target entities over time. However, the existing sentiment classification approaches do not consider the evolution of users’ opinions. They assume that instances are independent, identically distributed and generated from a stationary distribution, even though they are generated from a stream distribution. In this study, a stream sentiment classification method is proposed to deal with changing opinion and imbalanced data distribution using ensemble learning and instance selection methods. In relation to the concept drift problem, another important issue is the handling of feature drift in the sentiment classification. To handle feature drift, relevant features need to be detected to update classifiers. Since proposed feature unionization method is very effective to construct more relevant features, it is further used to handle feature drift. Thus, a method to deal with concept and feature drifts for stream sentiment classification was proposed. The effectiveness of the feature unionization method was compared with the feature selection method over fourteen publicly available datasets in sentiment classification domain using three typical classifiers. The experimental results showed the proposed approach is more effective than current feature selection approaches. In addition, the experimental results showed the effectiveness of the proposed stream sentiment classification method in comparison to static sentiment classification. The experiments conducted on four datasets, have successfully shown that the proposed algorithm achieved better results and proving the effectiveness of the proposed method

Sentiment analysis in tweets

Orientador: Jacques WainerDissertação (mestrado) - Universidade Estadual de Campinas, Instituto de ComputaçãoResumo: Análise do sentimento é um campo de estudo de recente popularização devido ao crescimento da Internet e ao conteúdo gerado por seus usuários. Mais recentemente, as redes sociais surgiram, nessas redes as pessoas publicam suas opiniões em linguagem coloquial e compacta. Isto é o que acontece, por exemplo, no Twitter, uma ferramenta de comunicação que pode ser facilmente utilizada como fonte de informação para várias ferramentas automatizadas de inferência de sentimento. Esforços de pesquisa foram direcionados para lidar com o problema da análise do sentimento nas redes sociais do ponto de vista de um problema de classificação, onde não há consenso sobre qual é o melhor classificador, qual a melhor forma de pré- processamento entre outros. O objetivo desta dissertação é investigar a influência de algumas técnicas de pré-processamento, da técnica TF-IDF, do volume do conjunto de treinamento e de técnicas ensembles na acurácia de alguns classificadores supervisionadosAbstract: Sentiment analysis is a field of study that shows recent popularization due to the growth of Internet and the content that is generated by its users. More recently, social networks have emerged, where people post their opinions in colloquial and compact language. This is what happens in Twitter, a communication tool that can easily be used as a source of information for various automatic tools of sentiment inference. Research efforts have been directed to deal with the problem of sentiment analysis in social networks from the point of view of a classification problem, where there is no consensus about what the best classifier is, and what is the best configuration provided by the feature engineering process. The objective of this dissertation is to investigate the influence of some pre-processing techniques, the TF-IDF technique, the volume of the training set and ensembles techniques in the accuracy of some supervised techniquesMestradoCiência da ComputaçãoMestre em Ciência da Computaçã

Qualitative analysis of online reviews of users of hospitality services

Савремено друштво се све више ослања на акумулирана мишљења којa могу да пронађу на интернету. Допринос корисника на технолошким платформама омогућава олакшану интеракцију између истомишљеника заједничких интересовања, и на тај начин се олакшава процес доношења одлука. У оквиру окваквог технолошког контекста, организације у услужном сектору попут туризма и гоститељства, морају да се суоче са изазовом управљања садржајима од стране корисника. Маркетиншки стручњаци су нашли начин да искористе овакве интеракције што истиче значај имплементације нових знања у организацијама које ће помоћи у прикупљању, анализирању, тумачењу и управљању онлајн друштвеним утицајима. Предмет истраживања докторске дисертације је квалитативна анализа онлајн рецензија корисника угоститељских услуга у Србији. У поређењу са нумеричким оценама корисника, текстуалне рецензије одражавају задовољство или незадовољство корисника, али на много детаљнији начин јер садрже више информација и на тај  начин се стиче реаланији увид у стварна искуства корисника. Поред квалитативне обраде текста рецензија, идентификација врсте и значаја детерминанти задовољства и незадовољства у рецензијама корисника хотелских (у зависности од типа - градски, планински или бањски) и ресторанских услуга је један од главних задатака дисертације. За потребе истраживања прикупљене су рецензије хотела и ресторана у Србији. Коришћена је комбинација квалитативних и квантитативних метода у циљу доказивања постављених хипотеза. Од квалитативних анализа примењене су анализа фреквенције речи, анализа дужине рецензија, анализа сентимента, анализа читљивости и Латентна Дирихлеова Алокација (ЛДА). Од квантитативних метода коришћена је вишеструка регресија за утврђивање међусобних утицаја варијабли. Анализом фреквенције речи издвојене су речи које су се најчешће појављивале у рецензијама хотела и ресторана. Када су у питању хотели, у позитивним рецензијама су се појављивале речи које су се односиле на карактеристичне услуге које се пружају у одређеном типу хотела и садржале су више позитивних описних придева везаних за искуство конзумације. У негативним рецензијама хотела, без обзира на тип, чешће су се појављивали негативни описни придеви и речи које су указивале на материјалне (опипљиве) елементе хотелског производа. У позитивним рецензијама ресторана је такође присутно доста позитивних описних придева, а у негативним рецензијама је наглашен негативни аспект цене услуга у ресторану. Иако су рецензије негативне, у њима је присутно доста позитивних описних придева, што указује на то да је било аспеката услуге којима су били задовољни. Анализа дужине рецензија је показала да се у рецензијама, како хотела тако и ресторана, много више речи и реченица користи за описивање негативног искуства него позитивног. Анализа читљивости је спроведена с циљем утврђивања колико је просечно година формалног образовања неопходно за разумевање рецензија на прво читање. Резултати анализе су показали да вредности индекса читљивости варирају од веома ниског (рецензије које су разумљиве свима) до веома високог (изузетно тешке за разумевање). Просечна вредност индекса читљивости указује да читаоци морају бити завршне године средње школе за разумевање текста на прво читање. Анализом сентимента анализирана су осећања у рецензијама. Распон сентимента варира од екстремно негативних до екстремно позитивних осећања, али највећи број рецензија, како позитивних тако и негативних, садржао је неутрална и позитивна осећања. Анализирајући сентимент у рецензијама ресторана, добијени су слични резултати као и код рецензија хотела. Распон вредности сентимента варира од екстремно негативних до екстремно позитивних осећања, а са порастом оцене, расте и вредност сентимента. Овакви резултати могу указивати на то да, иако су били незадовољни, искуство корисника није праћено негативним осећањима, која су често заслужна за ширење негативних електронских препорука. Применом ЛДА издвојене су детерминанте задовољства и незадовољства услугама у хотелима (у зависности од типа хотела и категорије, као и од типа госта) и ресторанима. Полазећи од претпоставке да се детерминанте задовољства и незадовољства разликују у зависности од типа хотела, категорије и типа госта добијени су резултати који делимично потврђују ове претпоставке. Претпостављено је и да се различите детерминанте утичу на задовољство и незадовољство услугама у ресторанима, што је делимично потврђено. Применом вишеструке регресије тестирани су утицаји техничких карактеристика рецензија (поларитет, читљивост и дужина) на оцене и корисност рецензија. Добијени резултати су потврдили позитивни утицај сентимента и негативни утицај дужине рецензија на оцене корисника код хотелских рецензија, а у случају ресторана нису потврђени претпостављени утицаји. У случају утицаја техничких карактеристика рецензија хотела на корисност није утврђен значајан утицај, док је код рецензија ресторана пронађен позитиван утицај дужине и негативан утицај сентимента на корисност. Резултати добијени у овој дисертацији имају бројне теоријске и практичне импликације на угоститељску делатност. Будући да је задовољство корисника интегрални део угоститељске делатности, идентификоване детерминанте задовољства и незадовољства корисника могу угоститељима помоћи да унапреде своје пословање. На основу утврђеног утицаја техничких карактеристика рецензија на оцену и корисност, угоститељи могу да теже томе да побољшају перформансе рецензија које добијају од корисника, тако што ће, пружањем услуге врхунског квалитета, смањити негативне и дуге рецензије.Savremeno društvo se sve više oslanja na akumulirana mišljenja koja mogu da pronađu na internetu. Doprinos korisnika na tehnološkim platformama omogućava olakšanu interakciju između istomišljenika zajedničkih interesovanja, i na taj način se olakšava proces donošenja odluka. U okviru okvakvog tehnološkog konteksta, organizacije u uslužnom sektoru poput turizma i gostiteljstva, moraju da se suoče sa izazovom upravljanja sadržajima od strane korisnika. Marketinški stručnjaci su našli način da iskoriste ovakve interakcije što ističe značaj implementacije novih znanja u organizacijama koje će pomoći u prikupljanju, analiziranju, tumačenju i upravljanju onlajn društvenim uticajima. Predmet istraživanja doktorske disertacije je kvalitativna analiza onlajn recenzija korisnika ugostiteljskih usluga u Srbiji. U poređenju sa numeričkim ocenama korisnika, tekstualne recenzije odražavaju zadovoljstvo ili nezadovoljstvo korisnika, ali na mnogo detaljniji način jer sadrže više informacija i na taj  način se stiče realaniji uvid u stvarna iskustva korisnika. Pored kvalitativne obrade teksta recenzija, identifikacija vrste i značaja determinanti zadovoljstva i nezadovoljstva u recenzijama korisnika hotelskih (u zavisnosti od tipa - gradski, planinski ili banjski) i restoranskih usluga je jedan od glavnih zadataka disertacije. Za potrebe istraživanja prikupljene su recenzije hotela i restorana u Srbiji. Korišćena je kombinacija kvalitativnih i kvantitativnih metoda u cilju dokazivanja postavljenih hipoteza. Od kvalitativnih analiza primenjene su analiza frekvencije reči, analiza dužine recenzija, analiza sentimenta, analiza čitljivosti i Latentna Dirihleova Alokacija (LDA). Od kvantitativnih metoda korišćena je višestruka regresija za utvrđivanje međusobnih uticaja varijabli. Analizom frekvencije reči izdvojene su reči koje su se najčešće pojavljivale u recenzijama hotela i restorana. Kada su u pitanju hoteli, u pozitivnim recenzijama su se pojavljivale reči koje su se odnosile na karakteristične usluge koje se pružaju u određenom tipu hotela i sadržale su više pozitivnih opisnih prideva vezanih za iskustvo konzumacije. U negativnim recenzijama hotela, bez obzira na tip, češće su se pojavljivali negativni opisni pridevi i reči koje su ukazivale na materijalne (opipljive) elemente hotelskog proizvoda. U pozitivnim recenzijama restorana je takođe prisutno dosta pozitivnih opisnih prideva, a u negativnim recenzijama je naglašen negativni aspekt cene usluga u restoranu. Iako su recenzije negativne, u njima je prisutno dosta pozitivnih opisnih prideva, što ukazuje na to da je bilo aspekata usluge kojima su bili zadovoljni. Analiza dužine recenzija je pokazala da se u recenzijama, kako hotela tako i restorana, mnogo više reči i rečenica koristi za opisivanje negativnog iskustva nego pozitivnog. Analiza čitljivosti je sprovedena s ciljem utvrđivanja koliko je prosečno godina formalnog obrazovanja neophodno za razumevanje recenzija na prvo čitanje. Rezultati analize su pokazali da vrednosti indeksa čitljivosti variraju od veoma niskog (recenzije koje su razumljive svima) do veoma visokog (izuzetno teške za razumevanje). Prosečna vrednost indeksa čitljivosti ukazuje da čitaoci moraju biti završne godine srednje škole za razumevanje teksta na prvo čitanje. Analizom sentimenta analizirana su osećanja u recenzijama. Raspon sentimenta varira od ekstremno negativnih do ekstremno pozitivnih osećanja, ali najveći broj recenzija, kako pozitivnih tako i negativnih, sadržao je neutralna i pozitivna osećanja. Analizirajući sentiment u recenzijama restorana, dobijeni su slični rezultati kao i kod recenzija hotela. Raspon vrednosti sentimenta varira od ekstremno negativnih do ekstremno pozitivnih osećanja, a sa porastom ocene, raste i vrednost sentimenta. Ovakvi rezultati mogu ukazivati na to da, iako su bili nezadovoljni, iskustvo korisnika nije praćeno negativnim osećanjima, koja su često zaslužna za širenje negativnih elektronskih preporuka. Primenom LDA izdvojene su determinante zadovoljstva i nezadovoljstva uslugama u hotelima (u zavisnosti od tipa hotela i kategorije, kao i od tipa gosta) i restoranima. Polazeći od pretpostavke da se determinante zadovoljstva i nezadovoljstva razlikuju u zavisnosti od tipa hotela, kategorije i tipa gosta dobijeni su rezultati koji delimično potvrđuju ove pretpostavke. Pretpostavljeno je i da se različite determinante utiču na zadovoljstvo i nezadovoljstvo uslugama u restoranima, što je delimično potvrđeno. Primenom višestruke regresije testirani su uticaji tehničkih karakteristika recenzija (polaritet, čitljivost i dužina) na ocene i korisnost recenzija. Dobijeni rezultati su potvrdili pozitivni uticaj sentimenta i negativni uticaj dužine recenzija na ocene korisnika kod hotelskih recenzija, a u slučaju restorana nisu potvrđeni pretpostavljeni uticaji. U slučaju uticaja tehničkih karakteristika recenzija hotela na korisnost nije utvrđen značajan uticaj, dok je kod recenzija restorana pronađen pozitivan uticaj dužine i negativan uticaj sentimenta na korisnost. Rezultati dobijeni u ovoj disertaciji imaju brojne teorijske i praktične implikacije na ugostiteljsku delatnost. Budući da je zadovoljstvo korisnika integralni deo ugostiteljske delatnosti, identifikovane determinante zadovoljstva i nezadovoljstva korisnika mogu ugostiteljima pomoći da unaprede svoje poslovanje. Na osnovu utvrđenog uticaja tehničkih karakteristika recenzija na ocenu i korisnost, ugostitelji mogu da teže tome da poboljšaju performanse recenzija koje dobijaju od korisnika, tako što će, pružanjem usluge vrhunskog kvaliteta, smanjiti negativne i duge recenzije.Modern society is increasingly relying on the accumulated opinions of its peers that they can find on the Internet. The contribution of consumers on technology platforms enables easier interaction between like-minded people with common interests, and thus facilitates the decision-making process. Within this technological context, service sector organizations such as tourism and hospitality have to face the challenge of consumer-driven content management. Marketing experts have found a way to take advantage of such interactions, which emphasizes the importance of implementing new knowledge in organizations that will help collect, analyze, interpret and manage online social influences. The subject of the doctoral dissertation research is the qualitative analysis of online reviews of consumers of catering services in Serbia. Compared to numerical ratings of users, text reviews reflect customer satisfaction or dissatisfaction but in a much more detailed way because they contatin more information, and thus gain a realistic insight into real consumer experiences. Identifying the type and importance of determinants of satisfaction and dissatisfaction in consumer reviews according to hotel type (city, mountain or spa hotel) is one of the main tasks of the dissertation. For the puroposes of the research, reviews of hotels and restaurants in Serbia were collected. A combination of qualitative and quantitative methods was used in order to prove the set hypotheses. Qualitative analyzes that were applied are word frequency analysis, review length analysis, sentiment analysis, readability analysis and Latent Dirichlet Allocation (LDA). Among the quantitative methods, multiple regression was used to determine the mutual influence of variables. By analyzing the frequency of words, the words that appeared most often in reviews of hotels and restaurants were singled out. When it comes to hotels, positive reviews featured words that referred to the characteristics services provided in a certain type of hotel and contained more positive descriptive adjectives related to the experience of consumption. In negative hotel reviews, regardless of the hotel type, negative descriptive adjectives and words that indicated the material (tangible) elements of the hotel products appeared more often. In the positive reviews of restaurants, there are also a lot of positive descriptive adjectives, and in negative reviews, the negative aspect of the price of restaurant’s services is emphasized. Although the reviews are negative, there are a lot of positive descriptive adjectives in them, indicating that there were aspects of the services that they were satisfied with. The analysis of the length of reviews showed that in the reviews of both hotels and restaurants, many more words and sentences are used to describe a negative expericence than a positive one. A readability analysis was conducted to determine the average number of years of formal education necessary to understand reviews on first reading. The results of analysis showed that the values of the readability index vary form very low (reviews that are understandable to everyone) to very high (extremly difficult to understand). The average value of the readability index indicates that readers must be in their senior years of high school to understand the text on the first reading. Sentiment analysis analyzed the feelings in the reviews. The range of sentiment values varies from extremely negative to extremly positive sentiments, but the largest number of reviews, both positive and negative, contained neutral and positive sentiments. By analyzing sentiment in restaurant reviews, similar resutls were obtained as in hotel reviews. The range of sentiment values vaires from extremely negative to extremely positive sentiments, and as the rating increases, so does the value of the sentiment. Such results may indicate that, although they were dissatisfied, the user experience was not accompanied by negative feeling, which are often responsible for the spread of negative electronic recommendation. Using LDA, the determinants of satisfaction and dissatisfaction with services in hotels (depending on the type of hotel and category, as well as the type of traveler) and restaurants were isolated. Based on the assumption that the determinants of satisfaction and dissatisfaction differ depending on the type of hotel, category and type of travelers, obtained results partially confirm these assumptions. It was assumed that different determinants influence satisfaction and dissatisfaction with restaurant services, which was partially confirmed. By using multiple regression, the effects of the technical characteristics of reviews (polarity, readability and length) on the ratings and helpfulness of the reviews were tested. The obtained results confirmed the positive impact of sentiment and the negative impact of the length of reviews on user rating of hotel reviews. In the case of restaurants, the assumed impacts were not confirmed. In the case of the influence of tecnical characteristics of hotel reviews on reviews helpfulness, no significant influence was found, while in the case of restaurant reviews, a positive influence of length and a negative influence of sentiment on review helpfulness were found. The results obtained in this dissertation have numerous theoretical and practical implications for the hospitality industry. Since customer satisfaction is an integral part of the hospitality business, the identified determinants of customer satisfaction and dissatisfaction can help hoteliers and restauraters improve their business. Based on the established impact of technical characteristics of review on rating and helpfulness, hoteliers and restauraters can strive to improve the performance of reviews they receive from customers by reducing negative and long reviews by providing superior service