Preskočiť na obsah
Prehľad Prehľad Novinky Novinky
Zdieľať
Technológia 24. októbra 2022 9 min.

Používanie regulárnych výrazov REGEX na automatizovaný zber a extrakciu dát (časť 2)

Vďaka OCR, AI a REGEX v systéme PaperOffice je plne zaručené inteligentné spracovanie dokumentov.

Dôvera vedúcich spoločností po celom svete

Všetky články Technológia

V aktuálnom článku vám ukážeme, ako môžete využívať regulárne výrazy na získanie výhod automatizovaného spracovania dokumentov. To platí najmä pre dokumenty od firiem v akomkoľvek odvetví.

Ukážeme vám presné príklady regulárnych výrazov a krok za krokom vysvetlíme, čo znamenajú a ako ich môžete použiť.

Týmto spôsobom môžete zvýšiť svoju prevádzkovú efektivitu, znížiť ľudské chyby vďaka vyššej presnosti, znížiť svoje aktuálne náklady, zachovať integritu údajov a zlepšiť bezpečnosť údajov.

Aktuálny článok rozširuje prvú časť o inteligentnom spracovaní dokumentov,tu vás to priamo presmeruje na článok.

Extrahovanie špecifických dátových prvkov z dokumentov môže byť extrémne drahá a časovo náročná úloha. Často sa skeny dokumentov zasielajú veľkým firmám na outsourcingové zadávanie údajov, kde sa údaje zadávajú ručne.

Avšak tento prístup má niekoľko nevýhod, a to nasledovné:

  • To môže ohroziť bezpečnosť dokumentov
  • Do procesov pracovného postupu sa zavádza oneskorenie
  • V porovnaní s automatizovanou extrakciou je manuálna indexácia pomalý proces
  • Manuálna indexácia sa pri veľkých projektoch dobre neškáluje
  • Manuálna indexácia môže zaviesť chyby do údajov
  • Ak sa dokument zmení, celý proces začína odznova

A mnohé ďalšie.

Napriek rozšíreniu skenovania je veľká časť obchodných transakcií stále založená na papierových dokumentoch. Odhaduje sa, že 85% faktúr je stále vystavovaných na papieri.

Okrem toho existujú hory existujúcich papierov, ktoré je potrebné uskladniť v obrovských skladoch!

Čo je regulárny výraz?

Regulárne výrazy, známe aj ako "REGEX", sú silným nástrojom na vyhľadávanie a manipuláciu s textom. Umožňujú rozpoznať a upraviť zložité vzory v texte.

Regulárny výraz sa skladá z kombinácie bežných písmen a špeciálnych metaznakov, ktoré majú špeciálne funkcie.

Regulárne výrazy možno použiť aj na nahradenie alebo manipuláciu s textom. Napríklad regulárny výraz možno použiť.

Sú veľmi silným nástrojom pre spracovanie slov a automatizáciu úloh.

Ako môžu regulárne výrazy pomôcť automatizovať podnikanie?

Rast digitálnych dokumentov rôznych typov, s rôznymi pravidlami pomenovania a bez dostatočného vyhľadávacieho systému komplikuje proces vyhľadávania a extrahovania informácií z dokumentov z určitého obsahu, najmä keď ide o neklasifikované dokumenty, vyhľadávanie sa stáva nepresným a trvá dlho.

Regulárne výrazy (regex) poskytujú rýchly a silný spôsob nájdenia, extrahovania a nahradenia špecifických údajov v dokumentoch. Regulárne výrazy sú v podstate špeciálny textový reťazec používaný na opis vyhľadávacieho vzoru.

Toto je spôsob, akým sa dokumentový obsah vyhľadáva a číta pre zadaný reťazec znakov. Regulárne výrazy sú spôsobom definovania vzorcov v informáciách pomocou špeciálnych symbolov.

Metóda Regex je najlepšie vhodná pre dokumenty, v ktorých sa pozície hodnôt, ktoré majú byť prečítané, môžu meniť a jednoduché šablóny dokumentov nemôžu fungovať.

Zoznam jednoduchých výrazov nájdete v našom ComDesk.

Zbierka príkladov regulárnych výrazov (Regex) pre PaperOffice

Ako zostaviť regulárne výrazy?

Regulárne výrazy sa dajú zostaviť rôznymi spôsobmi, v závislosti od toho, aký typ vzorca sa vyhľadáva.

Používajte metaznaky ako ., *, +, ?, ^, $, [], a [a-z] na reprezentáciu špecifických typov znakov alebo vzorcov.

Používajte voliteľné časti: Použite otáznik (?) alebo hviezdičku (*) na sprístupnenie voliteľných častí vzorca.

Používajte skupiny: Používajte zátvorky na zoskupenie častí vzorca a zaobchádzanie s nimi ako s jednotkou.

Je dôležité poznamenať, že pravidlá regulárnych výrazov sa môžu líšiť podľa programovacieho jazyka. Preto je dôležité prečítať si dokumentáciu používaných nástrojov. RegEx napísaný pre PaperOffice musí byť kompatibilný s ECMAScript a PCRE2.

Tip

Na tému "Automatizované ULOŽENIE DOKUMENTOV Časť 3 / REGEX & Premenné / Správa dokumentov faktúr" existuje aj video na YouTube, ktoré tento proces jednoducho a jasne vysvetľuje:

Video PaperOffice

Ako extrahujem informácie z môjho dokumentu pomocou REGEX?

Praktické príklady

V aktuálnom článku demonštrujeme, ako môžete pomocou viacprvkových regulárnych výrazov v systéme PaperOffice extrahovať akékoľvek údaje z dokumentu a automaticky ich uložiť ako kľúčové slovo pre tento dokument.

Nižšie sme vytvorili vzorový dokument, ktorý obsahuje konkrétne dátum. Tento dokument je faktúrou. Vzorec dátumu v našom dokumente je formátovaný nasledovne:

Prečítať faktúru PaperOffice pomocou regulárneho výrazu

Mesiac tvorený písmenami, pričom prvé písmeno je vždy veľké, za ním nasleduje medzera, potom deň a čiarka, ďalšia medzera a následne rok.

Napríklad:Sep 20, 2019aleboMar 05, 2022

Na extrakciu tohto dátumu môžeme použiť nasledujúci regulárny výraz (REGEX):

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Rozoberme si tento výraz na jednotlivé skupiny. Tieto skupiny sú oddelené jednoduchými zátvorkami().

V prvej skupine hľadáme tri písmená mesiaca: ([A-Z][a-z]{2})

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

Extrakcia mesiaca

  • [A-Z] Tento reťazec znamená, že hľadáme veľké písmeno od A do Z. Napríklad písmeno"S" zo slovaSept. Je potrebné poznamenať, že veľké a malé písmená sa rozlišujú.
  • [a-z]{2} Tento reťazec znamená, že hľadáme dve malé písmená od a do z. Boli by toep zo slova "Sep".

Potom hľadáme medzeru pomocou nasledujúceho reťazca:\s

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

Extrahujte dátum

V druhej skupine hľadajte označenie dňa v číslach: (0[1-9]|[12][0-9]|3[01])

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

Deň musí byť oddelený tromi rôznymi výrazmi.
Pokiaľ nevieme, aký dátum sa v dokumente môže vyskytnúť, môže ísť o prvý deň (01) alebo o posledný deň (31) mesiaca, takže musíte zohľadniť rôzne možnosti.
Tieto sú oddelené znakom "|".
Príklad: (1|2|3) = 1 alebo 2 alebo 3.

Zoznam povolených znakov nasleduje v hranatých zátvorkách. Viacero hranatých zátvoriek zodpovedá viacerým znakom. Pokiaľ má výraz popísať viacero znakov, tieto sa jednoducho pripoja za seba. Potom sa vstup porovnáva s vaším výrazom zľava doprava.

Samozrejme, nie je potrebné uvádzať všetky čísla. Celkovo však celý výraz v hranatých zátvorkách predstavuje iba jeden znak.

  • 0[1-9] Tento reťazec znamená, že číslo môže začínať "0" nasledovaným číslom od 1 do 9. Takže dostaneme ľubovoľné číslo od 01 do 09.
    Reťazec hľadá vzor čísla, ktorý začína nulou. Ak váš dokument zvyčajne obsahuje dátum "5. marec 2022", teda bez čísla "0" pred číslom "5", je "0" v reťazci vynechaný.
  • [12][0-9]Tento reťazec znamená, že číslo môže začínať "1" alebo "2", za ktorým nasleduje ľubovoľná číslica od 0 do 9. Výsledkom môže byť ľubovoľné číslo od 10 do 29.
  • 3[01]Tento reťazec znamená, že číslo môže začínať "3", za ktorým nasleduje "0" alebo "1". Výsledkom môže byť 30 alebo 31.

Po definovaní možností pre deň by sa malo určiť výraz pre rok.

Teraz hľadáme čiarku a medzeru: ,\s

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Extrahovať rok

V poslednej skupine hľadáme rok: (20\d{2})

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Začíname hľadať ľubovoľný rok, pričom vieme, že bude ≥ 2000.

  • 20Tento reťazec znamená, že hľadáme ľubovoľný rok začínajúci presne na 20.
  • \d{2}Tento reťazec znamená, že hľadáme možné dvojčíslie, teda od "00" do "99".

Napríklad znak\d zodpovedá číslici medzi 0 a 9, zatiaľ čo znak \d{2} zodpovedá dvojčíslu.

Premenné sa čítajú z dokumentu a sú sprístupnené

Ak sa regulárny výraz teraz použije v systéme PaperOffice, konečným výsledkom je dátum"Sep 20, 2019".

Týmto spôsobom možno z dokumentu vyčítať akýkoľvek dátum bez toho, aby sme poznali pôvodnú hodnotu. Tieto skupiny je možné použiť aj inde a voľne presúvať na čítanie iných formátov dátumu.

Tu je ďalší príklad:

Prečítať faktúru PaperOffice 2 pomocou regulárneho výrazu

Dátum začína dňom, nasledovaným mesiacom, ktorý je tvorený písmenami, pričom prvé písmeno je vždy veľké, za ním nasleduje bodka, ďalší medzera a potom rok.

Na extrakciu tohto dátumu možno použiť vyššie uvedený regulárny výraz (REGEX) s doplnením, pretože v druhom príklade je po mesiaci uvedená "bodka".

Toto možno špecifikovať nasledujúcim reťazcom: \.

Celý výzerá takto:

(0[1-9]|[12][0-9]|3[01])\s([A-Z][a-z]{2})\.\s(20\d{2})

Vždy môžete overiť svoj vytvorený regex tým, že prejdete na stránku https://regex101.com a overíte ho spolu so svojim vloženým textom. Regex101 nielen skontroluje, či je váš regex správny, ale aj vám vysvetlí väčšinu regulárneho výrazu.

A tak môžete použiť rôzne znakové sady na čokoľvek.

Prečítajte si číslo objednávky vďaka REGEX

Ako ďalší príklad by sme chceli prečítať číslo objednávky z dokumentu.

Premenné sa čítajú z dokumentu a sú sprístupnené

Číslo objednávky v našom dokumente je formátované nasledovne:

Vždy začína veľkými písmenami XYB, za ktorými nasleduje pomlčka, potom 8 číslic, ďalšia pomlčka a nakoniec 3 náhodné veľké písmená.

Príklady čísel objednávok sú:

XYB-12316723-LSH

XYB-98456723-JRD

Na extrakciu tohto čísla objednávky môžeme použiť nasledujúci regulárny výraz:

XYB-\d{8}-[A-Z]{3}

Rozoberme si tento výraz jeden po druhom.

Najprv hľadáme presne prvé 3 veľké písmená so symbolom pomlčky: XYB-

XYB\d{8}-[A-Z]{3}

Potom hľadáme 8 číslic nasledovaných ďalším pomlčkou: \d{8}-

XYB-\d{8}-[A-Z]{3}

The \d znak, ako bolo predtým opísané, zodpovedá číslici medzi 0 a 9, zatiaľ čo \d{8} znak zodpovedá ôsmim čísliciam.

A nakoniec hľadáme ľubovoľné 3 veľké písmená: [A-Z]{3}

XYB-\d{8}-[A-Z]{3}

Takto by vyzerali nasledujúce čísla objednávok v systéme PaperOffice:

XYB-12316723-LSH

XYB-98456723-JRD

XYB-975432671829

ZYB-12342176-ZHD

prvé dve XYB-12316723-LSH a XYB-98456723-JRD

rozpoznať.

Pripravili sme odkaz na Regex101 pre tento príklad, kde je uvedený vyššie popísaný regulárny výraz so 4 príkladmi. Vidíte, že iba dve z uvedených čísel objednávok spĺňajú naše požiadavky.

Čítajte čísla položiek vďaka REGEX

Číslo položky na našom dokumente je formátované nasledovne:

Vždy začína dvoma veľkými písmenami, nasledovanými pomlčkou a potom 6 číslicami.

Prečítať faktúru PaperOffice pomocou regulárneho výrazu

Príklady čísel položiek by boli:

MS-863398

DS-452829

Na extrakciu týchto čísel položiek môžeme použiť nasledujúci regulárny výraz:

[A-Z]{2}-\d{6}

PaperOffice môže digitalizovať vaše dokumenty a integrovať sa s vašimi systémami, aby automatizoval extrakciu dát z faktúr a inej dokumentácie bez potreby písania a následnej údržby množstva kódu.

Kontaktujte nás, aby ste prebrali vaše use cases a dozvedeli sa viac o tom, ako vám môže PaperOffice pomôcť stať sa ešte konkurencieschopnejšími v digitálnej ére.

Začínanie je jednoduchšie, než si myslíte.

Stále sa obávate, že sa vám to nepodarí? Prečítajte si prípadové štúdie našich zákazníkov o integrácii PaperOffice do vášho podnikového života a presvedčte sa o jeho jednoduchosti, alebo si jednoducho požiadajte o testovacú inštaláciu.

Pre koho je vhodný papierovo voľný kancelársky priestor?

Rýchla a jednoduchá odpoveď na túto otázku znie: pre každú firmu. Všetky odvetvia a veľkosti firiem profitujú z papierovo voľného kancelárskeho priestoru, od malých a stredných podnikov až po veľké spoločnosti. Konverzia je však obzvlášť cenná pre malé a stredné podniky: Zníženie náročnosti spracovania a nákladov uvoľňuje rozpočet potrebný pre ďalšie rastové impulzy.

Môžem použiť cloudového poskytovateľa DMS pre môj papierovo voľný kancelársky priestor?

Nie. Ďalším faktorom, ktorý sa spomína od vstúpene platnosti GDPR v roku 2018, je ochrana údajov. Riešenia a softvér DMS sa používajú na spracovanie, riadenie a ukladanie dokumentov, ktoré často obsahujú citlivé osobné údaje. V prípade porušenia GDPR zákonár predpisuje vysoké pokuty.

  • Výhody ospravedlňujú námahu a náklady
    Digitálne pracovať a priniesť staré dokumenty do novej éry bude najlepšou kľúčovou investíciou na ušetrenie neuveriteľného množstva času, peňazí a nervov v budúcnosti.
  • Potrebujete niekoho, kto vie
    Na využitie všetkých výhod digitalizácie nepotrebujete vlastného IT špecialistu.
    Čo potrebujete, je správny partner po vašom boku, ktorý vďaka svojej skúsenosti dokáže presne implementovať to, čo potrebujete. Vyhnite sa strachovaniu a namiesto nádherných PowerPointových prezentácií bez reálneho otestovania zvoľte testovacie pozície.
  • Hardvér je zvyčajne už k dispozícii
    Skúsenosti ukázali, že takmer každá prevádzka, firma a spoločnosť má veľký kopírku, ktorá nevyužíva svoj potenciál. Tieto zariadenia milujú hromadné skeny, sú tolerantné k sponkám a môžu byť základom pre digitálny štart bez investície do skenera.
  • Lacnejšie, než sa očakávalo, so správnym DMS
    Vyhnite sa nástrahám nákladov pri systémoch DMS / ECM, kde ste bez milosti v rukách výrobcov. Nechajte si urobiť žiadne kompromisy, pokiaľ ide o vaše vlastné možnosti administrácie, ako je učenie dokumentov a robíte nastavenia sami. Ak potrebujete pomoc, výrobca vám rád pomôže, ale zostaňte nezávislí.
  • Digitálna automatizácia je budúcnosť
    Postupy budú v budúcnosti úplne identické, ale plne automatizované.
    Prichádzajúca faktúra? Pracovný postup je spustený a všetko ide svojím definovaným smerom.
    Prehľadávať všetkých 1000 priečinkov? Žiadny problém, pretože máte svoj vlastný Google!

O autorovi

Tím PaperOffice AI

Obsah a výskum

Náš tím expertov zameraný na špecialistov na AI, inžinierov a odvetvových odborníkov prináša najnovšie vývojové trendy v oblasti AI, AI-IDP a inteligentnej automatizácie dokumentov – s viac ako 24-ročnými skúsenosťami.

Zdieľajte tento článok LinkedIn

Nechajte si nič nechať

Získajte najnovšie poznatky o AI a automatizácii dokumentov priamo do vašej schránky.

Pripravení na budúcnosť?

Zistite, ako môže PaperOffice AI revolúciou zmeniť vaše procesy spracovania dokumentov.

Kde chcete vyskúšať PaperOffice?

Počítač a smartfón sú prepojené: Pracovný priestor na počítači, zachytávanie na telefóne.

Vaša skúšobná verzia je pripravená

Kde chcete začať?

Plný pracovný priestor je optimalizovaný pre počítač. Mobilná verzia sa hodí na zachytávanie, kontrolu a uvoľňovanie dokumentov.

app.paperoffice.ai

Začať na počítači

Vašu osobnú odkazovú adresu pošleme na vašu e-mailovú adresu.

Registrovať sa zadarmo Otvoriť aplikáciu Aplikácia PaperOffice Kompletný produkt: web, počítač aj mobil. Snímajte, organizujte, vyhľadávajte dokumenty a pracujte na nich s tímom. Je potrebný bezplatný účet Otvoriť Playground Playground Vybrané funkcie ihneď — bez registrácie, s obmedzeným demo API kľúčom. Bez registrácie, ale s obmedzeným demo API kľúčom