OpenRefine: различия между версиями
Patarakin (обсуждение | вклад) Новая страница: «{{DigitalTool |Description=OpenRefine - свободный инструмент для извлечения и очистки табличных данных, которые можно связать с базами знаний, включая Викиданные. Он был разработан Google (под названием Google Refine) и сейчас превратился в проект, поддерживаемый сообществом. |Aff...» |
Patarakin (обсуждение | вклад) Нет описания правки |
||
| Строка 16: | Строка 16: | ||
|AI=Нет | |AI=Нет | ||
}} | }} | ||
== Основные возможности == | |||
=== Фасетирование (Faceting) === | |||
Фасетирование позволяет разбить большой датасет на управляемые подмножества по определённым критериям. С помощью фасетов можно: | |||
* Просмотреть распределение значений в столбце (например, сколько авторов, сколько пустых ячеек) | |||
* Отфильтровать данные по выбранным значениям | |||
* Применить операции только к отфильтрованным строкам | |||
* Выявить аномалии и пропуски в данных | |||
; Пример | |||
:Если в столбце "Авторы" 500 уникальных значений, фасетирование позволит увидеть структуру данных и выявить, что "Иванов И.И." и "иванов и и" — это один человек. | |||
=== Кластеризация (Clustering) === | |||
Кластеризация автоматически группирует похожие значения на основе различных алгоритмов: | |||
* Fingerprinting — консервативный метод (удаляет пунктуацию, регистр, сортирует слова) | |||
* N-Gram Fingerprinting — для выявления опечаток | |||
* Levenshtein — расстояние редактирования между строками | |||
=== Трансформация данных с GREL === | |||
GREL (General Refine Expression Language) — встроенный язык программирования для сложных преобразований: | |||
* Нормализация текста (приведение к lowercase, удаление пунктуации) | |||
* Условные операции (if-then-else) | |||
* Работа с [[массив]]ами и [[строка]]ми | |||
* [[Регулярные выражения]] | |||
=== История операций (Undo/Redo) === | |||
OpenRefine ведёт полную историю всех операций, позволяя: | |||
* Отменить любую операцию (Undo) | |||
* Вернуться к любому состоянию проекта | |||
* Повторить последовательность операций на новом датасете | |||
[[OpenRefine]] — это незаменимый инструмент для исследователей, работающих с данными. Он особенно полезен в библиометрических исследованиях, где качество данных критично для получения надёжных результатов. Простота использования в сочетании с мощностью [[GREL]] делает его идеальным выбором как для начинающих, так и для опытных аналитиков данных. | |||
Версия от 12:08, 21 января 2026
| Краткое описание инструмента | OpenRefine - свободный инструмент для извлечения и очистки табличных данных, которые можно связать с базами знаний, включая Викиданные. Он был разработан Google (под названием Google Refine) и сейчас превратился в проект, поддерживаемый сообществом. |
|---|---|
| Возможности |
Это инструмент для очистки наборов данных и для выполнения сложных операций с данными. У него есть свой язык GREL похожий на формумы Exel и OpenOffice. |
| Трудности использования | высокий порог входа |
| Область знаний | |
| Область применения | образование |
| Поясняющее видео | |
| Веб-сайт | https://openrefine.org/ |
| Пользователи | Преподаватели, Исследователи |
| Используется для создания (проведения) | |
| Разработчик | |
| Сообщество вокруг средства | |
| Лицензия | Открытая |
| Год первого релиза | |
| Совместное сетевое использование | Нет |
| Какой язык основной | English |
| Есть ли поддержка Искусственным Интеллектом | Нет |
Основные возможности
Фасетирование (Faceting)
Фасетирование позволяет разбить большой датасет на управляемые подмножества по определённым критериям. С помощью фасетов можно:
- Просмотреть распределение значений в столбце (например, сколько авторов, сколько пустых ячеек)
- Отфильтровать данные по выбранным значениям
- Применить операции только к отфильтрованным строкам
- Выявить аномалии и пропуски в данных
- Пример
- Если в столбце "Авторы" 500 уникальных значений, фасетирование позволит увидеть структуру данных и выявить, что "Иванов И.И." и "иванов и и" — это один человек.
Кластеризация (Clustering)
Кластеризация автоматически группирует похожие значения на основе различных алгоритмов:
- Fingerprinting — консервативный метод (удаляет пунктуацию, регистр, сортирует слова)
- N-Gram Fingerprinting — для выявления опечаток
- Levenshtein — расстояние редактирования между строками
Трансформация данных с GREL
GREL (General Refine Expression Language) — встроенный язык программирования для сложных преобразований:
- Нормализация текста (приведение к lowercase, удаление пунктуации)
- Условные операции (if-then-else)
- Работа с массивами и строками
- Регулярные выражения
История операций (Undo/Redo)
OpenRefine ведёт полную историю всех операций, позволяя:
- Отменить любую операцию (Undo)
- Вернуться к любому состоянию проекта
- Повторить последовательность операций на новом датасете
OpenRefine — это незаменимый инструмент для исследователей, работающих с данными. Он особенно полезен в библиометрических исследованиях, где качество данных критично для получения надёжных результатов. Простота использования в сочетании с мощностью GREL делает его идеальным выбором как для начинающих, так и для опытных аналитиков данных.
