Overzicht van natuurlijke taalverwerking

Overzicht en definitie van NLP

Natural language processing (NLP) is een fascinerende tak van AI die mensen en machines in staat stelt om in alledaagse taal met elkaar te communiceren. De manier waarop u Siri spraakopdrachten geeft of vertalingen op Google krijgt, zijn beide voorbeelden van NLP in actie, omdat zowel het begrijpen van software als het reageren op menselijke taal te zien zijn.

Hoe verhoudt NLP zich tot AI?

De meeste mensen zijn geen programmeurs of software power-users, wat een van de redenen is waarom natuurlijke taalverwerking zo nuttig is. Software kan een steile leercurve hebben, en NLP stelt u in staat om zelfs complexe software te gebruiken zonder een expert te worden. In feite kunt u met NLP eenvoudig beschrijven wat u wilt van een AI op dezelfde manier als u het aan een vriend zou kunnen uitleggen.

De term AI heeft betrekking op een breed scala aan technologieën, maar de NLP-tak richt zich op de uitdagingen van de menselijke taal. Om echt nuttig te zijn, moeten NLP-oplossingen meer doen dan alleen de woorden vangen die je zegt. NLP-systemen moeten de context en intentie achter uw woorden begrijpen. Om dat mogelijk te maken, maken NLP-ontwikkelaars gebruik van andere AI-technologieën zoals machine learning en deep learning.

Waarom is natuurlijke taalverwerking belangrijk?

Natuurlijke taalverwerking stelt u in staat om technologie te gebruiken die anders moeilijk te gebruiken zou kunnen zijn. Het stelt computers ook in staat om tekst en spraak te begrijpen op een manier die ze niet voor NLP konden. Hier zijn enkele van de voordelen van NLP:

NLP helpt mensen productiever te zijn

Op het werk kan natuurlijke taalverwerking uw efficiëntie verhogen doordat u automatisering kunt gebruiken voor repetitieve of tijdrovende taken. Een klantenserviceafdeling kan bijvoorbeeld chatbots op basis van NLP gebruiken om routinematige vragen van klanten af te handelen. Een boekhoudafdeling kan ook NLP-systemen gebruiken om belangrijke informatie uit facturen en kwitanties te halen en deze te gebruiken om een database of spreadsheet in te vullen.

Als extra voordelen vermindert het automatiseren van gegevensinvoer en -verwerking de kans op menselijke fouten en versnelt het workflows. Wanneer een systeem menselijke taal goed genoeg kan begrijpen om basistaken over te nemen, verhoogt het de productiviteit doordat gebruikers zich kunnen richten op taken met een hogere waarde.

NLP helpt klantervaringen te verbeteren

Wanneer u een bedrijf probeert te bereiken via de telefoon, maar niet langs een verwarrende telefoonboom kunt komen, ervaart u een slecht getraind interactief spraakreactiesysteem. Maar een goed getrainde NLP-chatbot kan klanten een meer intuïtieve ervaring geven. Een e-commercesite met een NLP-systeem kan bijvoorbeeld analyseren welke producten een klant op de site heeft bekeken. Door te begrijpen welke producten interessant zijn voor een klant, kan het systeem vervolgens voorstellen doen voor producten die de klant waarschijnlijk wil.

Met NLP-gestuurde chatbots voor klantenservice verbetert u de ervaringen door snel vragen te beantwoorden of problemen op te lossen. Deze chatbots kunnen worden ontworpen om een volledige geschiedenis van de interacties van een klant te hebben en problemen te herkennen die de klant in het verleden heeft gehad.

NLP creëert nieuwe inzichten

Als u ooit een e-mail naar een bedrijf hebt gestuurd om een vraag te stellen, advies te geven of een klacht in te dienen, kan het lijken alsof niemand het leest. En dat kan het geval zijn, want weinig bedrijven hebben de tijd om elk stukje feedback van klanten die ze krijgen te lezen. Maar AI met NLP heeft wel de tijd. Het kan door enorme datasets zoals klantgesprekken op websites doorzoeken. Het kan bedrijven dan een betrouwbare samenvatting geven van die discussies, zodat het bedrijf het probleem kan corrigeren.

Hoe werkt natuurlijke taalverwerking?

Zo maakt NLP menselijke en machinale gesprekken mogelijk. De volgende stappen zijn van toepassing op taal in de vorm van tekst. NLP voor gesproken taal is een beetje anders, maar volgt dezelfde algemene principes.

Laten we een voorbeeldzin gebruiken om te laten zien hoe het proces werkt:

“I like demonstrating how natural language processing works.”

Het algoritme begint met tekstvoorbewerking.

Tekstvoorbewerking

Tekstvoorbewerking verwijst naar het vereenvoudigen van de tekst die mensen creëren om het voor NLP-algoritmen gemakkelijker te maken om menselijke taal te verwerken.

• Tokenisatie

Tokenisatie is het proces van het opsplitsen van de woorden en leestekens in een zin in tokens. Tokenisatie is belangrijk omdat het efficiënter is voor NLP-algoritmen om tokens te verwerken dan tekst bij het uitvoeren van taken zoals indexeren en zoeken. De voorbeeldzin bevat acht woorden: “I like demonstrating how natural language processing works.” Het heeft ook een punt, dus je krijgt acht tokens door het tellen van de woorden en een door het tellen van de periode, voor een totaal van negen tokens.

• Lowercasing

Lowercasing is het proces van het converteren van alle tokens naar kleine letters tokens om de dataset eenvoudiger te maken. In de voorbeeldzin was een van de tokens “I”. Om dubbelzinnigheid te voorkomen en de efficiëntie te verhogen, converteert de onderste stap die hoofdlettertokens in “i”. De regels voor onderbouw worden in andere delen van het proces ingewikkelder.

• Stopwoorden verwijderen

Een andere manier om tekst voor natuurlijke taalverwerking te vereenvoudigen is het verwijderen van woorden die geen significante betekenis hebben, die stopwoorden worden genoemd. In de voorbeeldzin zouden de woorden “i” en “how” doorgaans als stopwoorden worden aangeduid. Wanneer een algoritme ze verwijdert, blijven nog zeven tokens over. Dat zijn “like”, “demonstrating”, “natural”, “language”, “processing”, “works” en “.”.

• Stemming en lemmatization

Zelfs met de zeven tokens die overblijven is er ruimte voor meer vereenvoudiging. Een methode, stammend, is het snijden van een woord naar zijn basis of wortelvorm. Het teken “demonstrating” is een woord dat voortbouwt op de stam “demonstr” net zoals “natural” voortbouwt op “natur”, zodat het model de oorspronkelijke tokens vervangt door de stengels “demonstr” en “natur”.

Een woord kan verschillende betekenissen hebben in verschillende contexten, en lemmatization is het proces van het bepalen van de juiste betekenis in een bepaalde context. De voorbeeldzin bevat "demonstreer" wat "laten zien" kan betekenen of "protesteren". In dit geval zou lemmatization resulteren in het toewijzen van de context waar “demonstreer” betekent “laten zien”.

Tekstweergave

De volgende stap is tekstweergave, die woorden omzet in een numeriek formaat dat een machine kan verwerken. Naast getallen kan tekst worden omgezet in vectoren of embeddings, wat complexere indelingen zijn die informatie zoals context bieden.

• Zak woorden (BoW)

Computers zijn goed in tellen, en de BoW-meting telt hoeveel keer een woord in een document voorkomt. Als de woorden team, spel en score bijvoorbeeld vaak voorkomen in een document, is het waarschijnlijker dat de context sport is. De voorbeeldzin heeft slechts één exemplaar van elk woord. De BoW-weergave zou laten zien dat elk woord slechts één keer voorkomt zoals dit:

{“i”: 1, “like”: 1, “demonstrating”: 1, “how”: 1, “natural”: 1, “language”: 1, “processing”: 1, “works”: 1}

• TF-IDF (term frequentie-inverse documentfrequentie)

TF-IDF gebruikt een formule op basis van hoe vaak een woord voorkomt in een algemene dataset die bestaat uit veel documenten om het belang van een woord te bepalen. Hoe vaker een woord verschijnt, hoe lager het TF-IDF-gewicht en hoe minder belangrijk het is in één document. Woorden als “the” en “a” komen vrij vaak voor, en zijn dus minder belangrijk. U zou de gewichten van de voorbeeldzin in een dergelijke vorm weergeven, waarbij wordt aangetoond dat gemeenschappelijke woorden lagere gewichten hebben en ongewone woorden hogere gewichten hebben:

{“i”: 0.1, “like”: 0.1, “demonstrating”: 0.3, “how”: 0.1, “natural”: 0.2, “language”: 0.2, “processing”: 0.5, “works”: 0.1}

Tekstanalyse

Tekstanalyse is het punt waarop een NLP-algoritme betekenis uit tekst haalt. Het is hoe een algoritme geschikte antwoorden op de query van de gebruiker kan produceren.

• Opname benoemde entiteit (NER)

Na enige kwantitatieve analyse zoeken NLP-algoritmen vervolgens naar woorden die herkenbaar zijn als naamgeving van iets. Het woord appel verwijst naar een soort fruit, maar het woord Apple verwijst naar een specifiek bedrijf, en een NLP-algoritme heeft een manier nodig om het verschil te herkennen. De voorbeeldzin, “I like demonstrating how natural language processing works” bevat de woorden “natural language processing”, die mensen zouden kunnen herkennen als het benoemen van een AI-technologie. Dit wordt als volgt weergegeven:

NER-output: [("natural language processing", "technologie")]

• Sentimentanalyse

Sommige datasets, zoals een catalogus van grasmaaieronderdelen, hebben mogelijk geen significante emotionele toon. Maar een filmrecensie kan een sterke emotionele toon hebben. Als een dataset wel een toon heeft, is sentimentanalyse de stap in natuurlijke taalverwerking die deze vastlegt. Voor de voorbeeldzin kan de sentimentanalyse er als volgt uitzien:

Sentimentuitvoer: positief

Syntaxisparsing

Elke zin heeft een grammaticale structuur. Syntaxisparsing is het proces van het analyseren van die structuur om zelfstandige naamwoorden, werkwoorden, onderwerpen, enz. te vinden. Dit is belangrijk omdat verschillende talen verschillende syntaxis gebruiken, dus syntaxisparsing is essentieel voor machinevertaling. Voor de voorbeeldzin kan syntaxisparsing dit resultaat genereren:

Syntaxstructuur: (ROOT (S (NP (PRP I)) (VP (VBP like) (S (VP (VBG demonstrating) (SBAR (WHADVP (WRB how))) (S (NP (NNP Natural) (NNP Language) (NNP Processing))) (VP (VBZ works)))))))))

Afhankelijk van het specifieke algoritme zijn er meestal aanvullende stappen. Het resultaat is een gesprek waarbij de machine uw woorden en intentie lijkt te begrijpen en in natuurlijke taal op u reageert.

Wat zijn voorbeelden van verwerkingstaken in natuurlijke taal?

Een drone besturen met spraakopdrachten

Zelfs de krachtigste technologie heeft een beperkte waarde als u niet weet hoe u het moet gebruiken. Natuurlijke taalverwerking maakt technologie toegankelijker. Het vermindert de behoefte aan gespecialiseerde technische kennis om de voordelen van geavanceerde software of hardware te krijgen. Gebruikers kunnen communiceren met NLP-systemen via natuurlijke conversatie in plaats van te vertrouwen op complexe commando's, codering of fysieke besturingselementen.

Met een afstandsbedieningstoepassing voor kleine drones kunt u bijvoorbeeld een drone gewoon vertellen om iets als flip in the air te doen, zonder dat u de ingewikkelde bedieningselementen hoeft te leren die u anders zou moeten gebruiken. De mogelijkheid om eenvoudige spraakopdrachten te gebruiken, stelt meer mensen in staat om technologie te gebruiken.

Beter inzicht verkrijgen voor merkmanagement

Mensen uiten hun gedachten en voorkeuren elke dag, en bedrijven hebben toegang tot veel van die data. Bedrijven gebruiken al gegevens zoals productverkoop om inzicht te krijgen in bepaalde aspecten van klantgedrag. Met natuurlijke taalverwerkingsoplossingen kunnen computers sociale media-gesprekken en online klantbeoordelingen ook omzetten in bruikbare informatie.

De inzichten van NLP zijn een ander soort informatie dan traditionele sales analytics. Gebruik verkoopcijfers voor operationele inzichten zoals prognoses of resourcemanagement, maar NLP-gebaseerde analyses kunnen krachtiger zijn in merkbeheer of het verbeteren van klantervaringen.

Overbelasting van informatie voorkomen

Als u een e-mailadres hebt dat u voor uw functie gebruikt, kan overbelasting van informatie onvermijdelijk lijken. De gemiddelde werknemer ontvangt meer dan 120 e-mails per dag, dus het is niet verwonderlijk dat ongeveer 60% van de werknemers gewoon interne bedrijfsmails negeert. Maar als uw e-mailtoepassing NLP-mogelijkheden heeft, kan het u helpen overbelasting van informatie te voorkomen. Het kan e-mails filteren, categoriseren en prioriteren, zodat de belangrijkste e-mails de aandacht krijgen die ze nodig hebben.

Evenzo kunnen NLP-systemen die in samenwerkingssoftware zijn ingebouwd, vergaderingen transcriberen en samenvatten. Ze kunnen zelfs de belangrijkste punten die tijdens een vergadering zijn gemaakt herkennen en vastleggen en rapporteren over toegewezen actie-items. Dit soort NLP-gestuurde automatisering helpt individuen tijd te besparen en verhoogt de algehele organisatorische efficiëntie.

Use cases verwerking natuurlijke taal

NLP transformeert industrieën. NLP-applicaties verbeteren de efficiëntie van werknemers, verbeteren klantervaringen en maken strategische besluitvorming mogelijk, verspreid over een breed scala aan sectoren. Hieronder vindt u enkele opmerkelijke use cases voor NLP in verschillende branches.

Natuurlijke taalverwerking benaderingen

De meeste benaderingen van natuurlijke taalverwerking vallen onder een van de twee brede categorieën. Ze hanteren ofwel een op regels gebaseerde aanpak of een op machine learning gebaseerde aanpak.

Op regels gebaseerde NLP

Deze aanpak probeert een reeks taalkundige regels te identificeren die een computer kan volgen om de menselijke taal betrouwbaar te begrijpen en te genereren. Hierdoor is het sterk gericht op taalkundige aspecten van de computationele taalkunde. Op regels gebaseerde benaderingen kunnen zeer effectief zijn als u datasets gebruikt waar de taal zowel gecontroleerd als voorspelbaar is, zoals juridische documenten of technische handleidingen.

Op machine learning gebaseerde NLP

Een op machine learning gebaseerde benadering van NLP maakt gebruik van verschillende statistische methoden en algoritmische benaderingen. In plaats van de regels vooraf te creëren, is het doel om een computer in staat te stellen te leren communiceren op basis van een enorme dataset. Het idee is dat zodra een computer voldoende voorbeelden van menselijke taal heeft verwerkt, de computer de patronen zal identificeren die goede menselijke taal maken. Als u over datasets beschikt die groot genoeg zijn, kan een op machine learning gebaseerde benaderingen van NLP vrij flexibel en opmerkelijk effectief zijn.

Een korte geschiedenis van natuurlijke taalverwerking

Natuurlijke taalverwerking als een tak van AI begon zich te ontwikkelen in de jaren veertig. In de jaren tachtig en negentig werden computeroplossingen krachtiger en begon machine learning volwassen te worden. Meer recentelijk heeft de opkomst van deep learning, neurale netwerken en verschillende vormen van generatieve AI de natuurlijke taalverwerking volledig getransformeerd.

Evenementen in NLP evolutie

• 1940 | Eerste NLP-ontwikkelingen, waaronder het Weaver Memorandum over machinevertaling, verschijnen
• 1950 | "Universele grammatica" geïntroduceerd; Turing test voorgesteld; deep learning komt naar voren
• 1960 | Chatbots zoals ELIZA ontstaan en taalkundige theorieën die ten grondslag liggen aan NLP evolueren
• 1970 | Case grammar theorie en semantische netwerken ontstaan; op regels gebaseerde systemen worden volwassen en chatbots komen op
• 1980 | Vroege machine learning-algoritmen ontwikkelen zich; spraakherkenningstechnologieën evolueren; computationele taalkunde breidt zich uit en RNN-theorie komt naar voren
• 1990 | Statistische modellen en LSTM's ontstaan en machinevertaling krijgt tractie
• 2000s | Machine learning ontwikkelt zich snel en neurale taalmodellen ontwikkelen zich; enorme hoeveelheden gesproken en tekstuele data worden toegankelijk
• 2010s | Een aanzienlijke toename van beschikbare data en computing maakt diepgaand leren mogelijk om zich snel te ontwikkelen
• 2020 | Large language models, pre-trained language models en transformers krijgen bekendheid

Technologieoverzicht van natuurlijke taalverwerking

Natuurlijke taalverwerking is een overkoepelende term die een reeks technologieën en technieken omvat die het mogelijk maken voor machines om menselijke taal te begrijpen en te produceren. Elke technologie die NLP mogelijk maakt, valt onder een van die twee mogelijkheden.

NLP-subcategorieën

Natuurlijke taalverwerking omvat een scala aan technologieën en technieken. Maar het primaire doel van NLP is om het voor machines mogelijk te maken menselijke taal te begrijpen en te produceren. Deze twee mogelijkheden zijn de belangrijkste componenten van natuurlijke taalverwerking.

• Natuurlijk taalbegrip (NLU): natuurlijk taalbegrip richt zich op het begrijpen en interpreteren van menselijke taal. Om dat te kunnen doen, moeten NLU-systemen syntaxis kunnen parseren, semantiek kunnen analyseren en begrijpen hoe context betekenis in menselijke taal beïnvloedt. Dit kan verschillende vormen aannemen, zoals het begrijpen van gesproken vragen of het uitvoeren van taken op basis van gesproken aanwijzingen.
• Natural language generation (NLG): Natuurlijke taalgeneratie richt zich op het produceren van mensachtige tekst of spraak. Daarvoor moeten NLG-systemen ongestructureerde gegevens kunnen omzetten in natuurlijk klinkende taal. Dit kan betekenen dat u informatie samenvat of zelfs gesprekken voert.

De rol van machine learning in NLP

Wat zou een computer kunnen doen als hij zichzelf nieuwe vaardigheden zou kunnen leren? Dat is machine learning. Van Machine learning is sprake wanneer computers zelf leren hoe ze taken kunnen uitvoeren zonder specifieke instructies.

Voor NLP neemt machine learning de vorm aan van het creëren van modellen die zowel natuurlijk taalbegrip als natuurlijke taalgeneratie mogelijk maken. Het maakt gebruik van technieken waaronder begeleid leren, die verwijst naar trainingsmodellen op data met labels, en niet-begeleid leren, wat trainingsmodellen zijn op data die geen labels hebben.

De rol van deep learning in NLP

Deep learning is een specifieke vorm van machine learning. Het maakt gebruik van neurale netwerken die meerdere lagen hebben, daarom staat “diep” in de naam. Het “leren” verwijst naar het gebruik van algoritmen die complexe patronen in datasets identificeren en vervolgens modelleren. Deep learning is belangrijk in NLP omdat het NLP bij bepaalde taken veel beter heeft gemaakt. Deze omvatten het vertalen tussen talen, het analyseren van het sentiment in een gegevensset en het genereren van tekst.

Hoe neurale netwerken NLP verbeteren

Neurale netwerken zijn gebaseerd op het idee om het menselijk brein als model te gebruiken voor het verwerken van data. Neurale netwerken zorgen ervoor dat NLP-systemen zeer nauwkeurig zijn in het begrijpen en genereren van menselijke taal. Neurale netwerken kunnen verschillende architecturen hebben en zijn de sleutel tot het inschakelen van applicaties zoals een virtuele assistent, chatbot of geautomatiseerde tekstanalyse.

Computationele taalkunde en NLP

Computationele taalkunde is het vakgebied dat informatica en taalkunde combineert om zich te richten op natuurlijke taalverwerking. Het creëert een theoretische basis om computers in staat te stellen menselijke taal te begrijpen.

• Syntax

Onderzoekt de structuur van zinnen en de regels die zinnen grammaticaal of ongrammaticaal maken.

Engelse syntaxis: “The cat sits on the mat.”

Onjuiste Engelse syntaxis: “Cat the on mat sits.”

• Semantiek

Studies die betekenis hebben in taal, waaronder hoe woorden en zinnen objecten, acties en ideeën representeren.

Zinnen: “The cat is on the mat.”

Semantische interpretatie: De betekenis is dat er een kat zich fysiek boven op een mat bevindt.

• Pragmatics

Onderzoekt de manier waarop context de interpretatie van taal beïnvloedt.

Zinnen: “Can you pass the salt?”

Pragmatische interpretatie: Hoewel het een vraag is over het vermogen, laat de context zien dat u het moet begrijpen als een beleefd verzoek voor iemand om het zout door te geven.

Computationele taalkunde is belangrijk omdat het de puntjes verbindt tussen de taaltheorie en echte toepassingen van NLP.

Veelgestelde vragen