Перейти до змісту
Огляд Огляд Новини Новини
Поділитися
Технології 24 жовтня 2022 р. 9 хв

Використання регулярних виразів REGEX для автоматизованого збору та вилучення даних (Частина 2)

Завдяки OCR, ШІ та REGEX у PaperOffice інтелектуальна обробка документів може бути повністю гарантована.

Довіра провідних компаній по всьому світу

Усі статті Технології

У цій статті ми показуємо, як ви можете використовувати регулярні вирази для отримання переваг автоматизованої обробки документів. Це особливо стосується документів від компаній будь-якої галузі.

Ми наводимо точні приклади регулярних виразів і крок за кроком пояснюємо, що вони означають і як ви можете їх використовувати.

Таким чином ви можете підвищити свою операційну ефективність, зменшити людські помилки завдяки більшій точності, знизити поточні витрати, підтримувати цілісність даних і покращити безпеку даних.

Поточна стаття продовжує першу частину про інтелектуальну обробку документів,тут ви можете перейти безпосередньо до статті.

Вилучення конкретних елементів даних з документів може бути надзвичайно дорогим і трудомістким завданням. Часто скани документів надсилаються великим аутсорсинговим компаніям з введення даних, де дані вводяться вручну.

Однак цей підхід має кілька недоліків, а саме:

  • Це може поставити під загрозу безпеку документів
  • Вносить затримки в процеси робочого потоку
  • Порівняно з автоматичним вилученням, ручна індексація є повільним процесом
  • Ручна індексація погано масштабується на великих проектах
  • Ручна індексація може внести помилки в дані
  • Якщо документ змінюється, весь процес починається знову

І багато іншого.

Попри поширення сканування, значна частина бізнес-транзакцій все ще базується на паперових документах. Очікується, що 85% рахунків-фактур все ще видаються на папері.

Крім того, існують гори наявних паперових документів, які потрібно зберігати в великих складах!

Що таке регулярний вираз?

Регулярні вирази, також відомі як "REGEX", є потужним інструментом для пошуку та обробки тексту. Вони дозволяють розпізнавати та редагувати складні шаблони в тексті.

Регулярний вираз складається з комбінації звичайних літер і спеціальних метасимволів, які мають особливі функції.

Регулярні вирази також можна використовувати для заміни або обробки тексту. Наприклад, регулярний вираз може бути використаний.

Вони є дуже потужним інструментом для обробки слів та автоматизації завдань.

Як регулярні вирази можуть допомогти автоматизувати бізнес?

Збільшення кількості цифрових документів різних типів, з різними правилами найменування та без достатньої системи пошуку ускладнює процес пошуку та видобутку інформації з документів із певного вмісту, особливо коли йдеться про некласифіковані документи, пошук стає неточним і займає багато часу.

Регулярні вирази (regex) забезпечують швидкий і потужний спосіб знаходження, видобутку та заміни конкретних даних у документах. Регулярні вирази по суті є спеціальною текстовою рядком, що використовується для опису шаблону пошуку.

Таким чином відбувається пошук та зчитування вмісту документа за вказаним символьним рядком. Регулярні вирази — це спосіб визначення шаблонів у інформації за допомогою спеціальних символів.

Метод Regex найкраще підходить для документів, у яких положення значень, що потрібно зчитати, можуть змінюватися, а прості шаблони документів не працюють.

Список простих виразів ви можете знайти в нашому ComDesk.

Колекція прикладів регулярних виразів (Regex) PaperOffice

Як створити регулярні вирази?

Регулярні вирази можна складати по-різному, залежно від типу шаблону, який шукається.

Використовуйте метасимволи, такі як ., *, +, ?, ^, $, [], та [a-z], щоб представляти певні типи символів або шаблони.

Використовуйте необов'язкові частини: використовуйте знак питання (?) або зірочку (*), щоб зробити частини шаблону необов'язковими.

Використовуйте групи: використовуйте дужки для групування частин шаблону та обробки їх як єдиного цілого.

Важливо зазначити, що правила регулярних виразів можуть відрізнятися залежно від мови програмування. Тому важливо ознайомитися з документацією використаних інструментів. RegEx, написаний для PaperOffice, має бути сумісним з ECMAScript та PCRE2.

Порада

Також існує відео на YouTube на тему «Автоматизоване ЗБЕРІГАННЯ документів Частина 3 / REGEX & Змінні / Обробка рахунків та управління документами», яке просто і зрозуміло пояснює цей процес:

Відео PaperOffice

Як витягти інформацію з мого документа за допомогою REGEX?

Практичні приклади

У цій статті ми демонструємо, як ви можете витягувати будь-які дані з документа завдяки багатоелементним регулярним виразам у PaperOffice та автоматично зберігати їх як ключове слово документа.

Ми створили нижче приклад документа, який має конкретну дату. Цей документ є рахунком-фактурою. Шаблон дати в нашому документі має такий формат:

Зчитування рахунку PaperOffice за допомогою регулярного виразу

Місяць, складений з літер, але перша літера завжди велика, за нею слідує пробіл, потім день, за яким йде кома, ще один пробіл і потім рік.

Наприклад:Sep 20, 2019 або Mar 05, 2022

Щоб витягнути цю дату, ми можемо використати наступний регулярний вираз (REGEX):

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Давайте розберемо вираз на окремі групи. Ці групи розділені одинарними дужками().

У першій групі ми шукаємо три літери місяця: ([A-Z][a-z]{2})

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

Витягнути місяць

  • [A-Z] Цей рядок означає, що ми шукаємо велику літеру від A до Z. Наприклад, літеру "S" з Sept. Варто зазначити, що великі та малі літери розглядаються окремо.
  • [a-z]{2} Цей рядок означає, що ми шукаємо дві малі літери від a до z. Це будуть ep з "Sep".

Потім ми шукаємо пробіл за допомогою наступного рядка: \s

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

Витягніть дату

У другій групі шукайте позначення дня цифрами: (0[1-9]|[12][0-9]|3[01])

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s (20\d{2})

День має бути відокремлений трьома різними частинами.
Оскільки ми не знаємо, яка дата може зустрітися в документі, це може бути перший день (01) або останній день (31) місяця, тому потрібно відповідно враховувати різні варіанти.
Вони відокремлені символом "|".
Приклад: (1|2|3) = 1 або 2 або 3.

Список дозволених символів наведено в квадратних дужках. Кілька квадратних дужок відповідають кільком символам. Якщо вираз має описувати кілька символів, їх просто записують один за одним. Потім вхідні дані порівнюються з вашим виразом зліва направо.

Звісно, не обов'язково перелічувати всі числа. Однак у цілому весь вираз у квадратних дужках означає лише один символ.

  • 0[1-9]Цей рядок означає, що число може починатися з "0", за яким слідує цифра від 1 до 9. Таким чином, ми отримуємо будь-яке число від 01 до 09.
    Рядок шукає шаблон числа, який починається з нуля. Якщо у вашому документі зазвичай вказана дата "5 березня 2022 року", тобто без нуля перед цифрою "5", нуль у рядку опускається.
  • [12][0-9]Цей рядок означає, що число може починатися з "1" або "2", за яким слідує будь-яка цифра від 0 до 9. Результатом може бути будь-яке число від 10 до 29.
  • 3[01]Цей рядок означає, що число може починатися з "3", за яким слідує "0" або "1". Результатом може бути 30 або 31.

Після визначення варіантів для дня слід визначити вираз для року.

Тепер ми шукаємо кому та пробіл: ,\s

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Видобуток року

У останній групі ми шукаємо рік: (20\d{2})

([A-Z][a-z]{2})\s(0[1-9]|[12][0-9]|3[01]),\s(20\d{2})

Ми починаємо шукати будь-який рік, але знаємо, що він буде ≥ 2000.

  • 20Цей рядок означає, що ми шукаємо будь-який рік, який точно починається з 20.
  • \d{2}Цей рядок означає, що ми шукаємо можливе двоцифрове число, тобто від "00" до "99".

Наприклад, символ\d відповідає цифрі від 0 до 9, тоді як символ \d{2} відповідає двоцифровому числу.

Змінні зчитуються з документа та надаються у доступі

Якщо регулярний вираз тепер використовується в PaperOffice, кінцевим результатом є дата"Sep 20, 2019".

Таким чином, будь-яку дату можна витягнути з документа, не знаючи її початкового значення. Ці групи також можна використовувати десь ще та вільно переміщувати для читання інших форматів дат.

Ось ще один приклад:

Зчитування рахунку PaperOffice 2 за допомогою регулярного виразу

Дата починається з дня, за яким слідує місяць, написаний літерами, але перша літера завжди велика, після чого йде крапка, ще один пробіл і рік.

Щоб витягти цю дату, можна використати описаний вище регулярний вираз (REGEX) з додатковим уточненням, оскільки в другому прикладі після місяця стоїть "крапка".

Це можна задати за допомогою наступного рядка символів: \.

Отже, повний вираз виглядає так:

(0[1-9]|[12][0-9]|3[01])\s([A-Z][a-z]{2})\.\s(20\d{2})

Ви завжди можете перевірити створений регулярний вираз, перейшовши на сторінку https://regex101.com для його валідації разом із вашим вставленим текстом. Regex101 не лише перевірить правильність вашого регулярного виразу, а й пояснить більшість його частин.

І так ви можете використовувати різні набори символів для будь-яких цілей.

Витягнення номера замовлення за допомогою REGEX

Як ще один приклад, ми хотіли б витягнути номер замовлення з документа.

Змінні зчитуються з документа та надаються у доступі

Номер замовлення в нашому документі має такий формат:

Він завжди починається з великих літер XYB, за якими слідує дефіс, потім 8 цифр, ще один дефіс і нарешті 3 довільні великі літери.

Приклади номерів замовлень:

XYB-12316723-LSH

XYB-98456723-JRD

Щоб витягти цей номер замовлення, ми можемо використати наступний регулярний вираз:

XYB-\d{8}-[A-Z]{3}

Давайте розберемо вираз по одному елементу.

Спочатку ми шукаємо рівно три великі літери з символом дефіса: XYB-

XYB\d{8}-[A-Z]{3}

Після цього ми шукаємо 8 цифр, за якими слідує інший дефіс: \d{8}-

XYB-\d{8}-[A-Z]{3}

The \d символ, як описано раніше, відповідає цифрі від 0 до 9, тоді як \d{8} відповідає восьмицифровому числу.

І нарешті ми шукаємо будь-які 3 великі літери: [A-Z]{3}

XYB-\d{8}-[A-Z]{3}

Ось як PaperOffice виглядають наступні номери замовлень:

XYB-12316723-LSH

XYB-98456723-JRD

XYB-975432671829

ZYB-12342176-ZHD

перші два XYB-12316723-LSH і XYB-98456723-JRD

розпізнає.

Ми підготували посилання на Regex101 для цього прикладу, де вказано описане вище регулярне вираз із 4 прикладами. Ви можете побачити, що лише два з наданих номерів замовлень відповідають нашим вимогам.

Читати номери товарів завдяки REGEX

Номер товару на нашому документі має такий формат:

Він завжди починається з двох великих літер, за якими слідує дефіс, а потім 6 цифр.

Прочитати рахунок-фактуру PaperOffice за допомогою регулярних виразів

Приклади номерів товарів:

MS-863398

DS-452829

Щоб витягти ці номери товарів, ми можемо використати наступне регулярне вираз:

[A-Z]{2}-\d{6}

PaperOffice може оцифрувати ваші документи та інтегруватися з вашими системами для автоматизації вилучення даних з рахунків-фактур та інших документів без необхідності писати та підтримувати велику кількість коду.

Зв'яжіться з нами, щоб обговорити ваші сценарії використання та дізнатися більше про те, як PaperOffice може допомогти вам стати більш конкурентоспроможними в цифрову епоху.

Почати працювати простіше, ніж ви думаєте.

Ви все ще хвилюєтеся, що не впораєтесь? Прочитайте кейси наших клієнтів про інтеграцію PaperOffice у ваше бізнес-життя та переконайтеся в його простоті або просто подайте заявку на тестове встановлення.

Для кого підходить безпаперовий офіс?

Швидка і проста відповідь на це запитання: для кожної компанії. Усі галузі бізнесу та розміри компаній отримують вигоду від переходу до безпаперового офісу, від малого та середнього бізнесу та стартапів до великих корпорацій. Однак цей перехід особливо цінний для малого та середнього бізнесу: Зменшення зусиль і витрат на обробку звільняє бюджет, необхідний для подальших драйверів росту.

Чи можу я використовувати хмарного постачальника DMS для свого безпаперового офісу?

Ні. Ще одним фактором, який обговорюють усі з моменту набуття чинності GDPR у 2018 році, є захист даних. Рішення та програмне забезпечення DMS використовуються для обробки, управління та зберігання документів, які часто містять конфіденційні персональні дані. У разі порушень GDPR законодавець передбачає великі штрафи.

  • Переваги виправдовують зусилля та витрати
    Робота в цифровому форматі та перенесення старих документів у нову епоху стане найкращою інвестицією, яка заощадить неймовірну кількість часу, грошей і нервів у майбутньому.
  • Вам потрібна людина, яка знає
    Щоб скористатися всіма перевагами цифровізації, вам не потрібен власний IT-спеціаліст.
    Що вам потрібно, так це правильний партнер поруч, який завдяки своєму досвіду зможе реалізувати саме те, що вам потрібно. Уникайте лякання та обирайте тестові позиції замість розкішних презентацій PowerPoint, які не були ретельно протестовані.
  • Апаратне забезпечення зазвичай вже є
    Досвід показав, що майже в кожній установі, компанії та організації є великий копир, який не використовує свій потенціал. Ці пристрої люблять масове сканування, толерантні до скріпок і можуть стати основою для цифрового старту без інвестицій у сканер.
  • Дешевше, ніж очікувалося, з правильною DMS
    Уникайте пасток витрат із системами DMS/ECM, де ви безжально залежите від виробників. Не йдіть на компроміси щодо ваших власних можливостей адміністрування, таких як навчання документів та самостійне налаштування. Якщо вам потрібна допомога, виробник буде радий допомогти вам, але зберігайте незалежність.
  • Цифрова автоматизація — це майбутнє
    Процедури в майбутньому будуть повністю ідентичними, але повністю автоматизованими.
    Рахунок надходить? Робочий процес запускається, і все йде своїм визначеним шляхом.
    Шукати серед усіх 1000 папок? Жодної проблеми, адже у вас є власний Google!

Про автора

Команда PaperOffice AI

Контент та дослідження

Наша експертна команда ШІ-спеціалістів, інженерів та експертів у галузі повідомляє про останні розробки в сфері ШІ, <a href="/uk/ai-idp-intelektualna-obrobka-dokumentiv/">AI-IDP</a> та інтелектуальної автоматизації документів — з досвідом понад 24 роки.

Поділитися статтею LinkedIn

Не пропустіть наступну статтю

Отримуйте найсвіжіші інсайти щодо ШІ та автоматизації документів безпосередньо у вашу поштову скриньку.

Готові до майбутнього?

Дізнайтеся, як PaperOffice AI може революціонізувати ваші процеси обробки документів.

Де ви хочете спробувати PaperOffice?

Комп'ютер і смартфон підключені: робочий простір на комп'ютері, захоплення на телефоні.

Ваша пробна версія готова

З чого ви хочете почати?

Повний робочий простір оптимізовано для комп'ютера. Мобільна версія підходить для захоплення, перевірки та затвердження документів.

app.paperoffice.ai

Почати на комп'ютері

Ми надішлемо ваше особисте посилання для входу на електронну пошту.

Зареєструватися безкоштовно Відкрити застосунок Застосунок PaperOffice Повний продукт: веб, комп’ютер і мобільні пристрої. Захоплюйте, організовуйте, шукайте документи та працюйте з ними разом із командою. Потрібен безкоштовний обліковий запис Відкрити Playground Playground Вибрані функції одразу — без реєстрації, з обмеженим демо-ключем API. Без реєстрації, але з обмеженим демо-ключем API