IT-новости про Python, которые стоит знать

Собрали в одном месте самые важные ссылки
и сделали Тренажер IT-инцидентов для DevOps/SRE

     31.08.2020       Выпуск 350 (31.08.2020 - 06.09.2020)       Статьи
     31.08.2020       Выпуск 350 (31.08.2020 - 06.09.2020)       Статьи
     31.08.2020       Выпуск 350 (31.08.2020 - 06.09.2020)       Статьи

Делаем параллельный корпус из книг с помощью sentence embeddings

При поиске параллельных корпусов для своих нужд, — это может быть обучение модели машинного перевода или изучение иностранного языка, можно столкнуться с тем, что их не так уж и много, особенно, если речь идет не об английском, а каком-то редком языке. В этой статье мы попробуем создать свой корпус для популярной языковой пары русский-немецкий на основе романа Ремарка "Три товарища". Любителям параллельного чтения книг и разработчикам систем машинного перевода посвящается.

     31.08.2020       Выпуск 350 (31.08.2020 - 06.09.2020)       Статьи

Компьютерное зрение на страже конфиденциальности

Профилактика – наше всё. Грамотная защита от утечек данных поможет предупредить негативные последствия, которые могут повлечь за собой многомиллионные потери. В современном мире каждая из организаций обрабатывает и хранит конфиденциальную информацию. Если речь идёт о крупных организациях, то объёмы конфиденциальной информации огромны. Состояние «безопасности» компьютера – это концептуальный идеал, достигаемый при соблюдении каждым пользователем всех правил информационной безопасности.

     31.08.2020       Выпуск 350 (31.08.2020 - 06.09.2020)       Видео

Mastering a data pipeline with Python / Robson Luis Monteiro Junior (Microsoft)

Building data pipelines are a consolidated task, there are a vast number of tools that automate and help developers to create data pipelines with few clicks on the cloud. It might solve non-complex or well-defined standard problems. This presentation is a demystification of years of experience and painful mistakes using Python as a core to create reliable data pipelines and manage insanely amount of valuable data. Let's cover how each piece fits into this puzzle: data acquisition, ingestion, transformation, storage, workflow management and serving. Also, we'll walk through best practices and possible issues. We'll cover PySpark vs Dask and Pandas, Airflow, and Apache Arrow as a new approach.

     29.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи

Интерактивная визуализация алгоритмов на базе Jupyter

Jupyter уже давно зарекомендовал себя как удобную платформу для работы в различных областях на стыке программирования, анализа данных, машинного обучения, математики и других. Вот например очень известная книга по анализу данных, состоящая из Jupyter блокнотов. Поддержка , markdown, html дает возможность использовать использовать Jupyter в качестве платформы для удобного оформления научного-технического материала. Преимущество таких блокнотов заключается в интерактивности, возможности сопровождать сухой материал примерами программ, при этом эта интерактивность очень естественна и проста в использовании. В этой статье хотелось бы рассказать про возможность создания в Jupyter анимированных примеров работы различных алгоритмов и привести несколько из них с исходным кодом. В качестве кликбейта алгоритм Дейкстры.

     29.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи

Бот в телеграм, озвучивающий ваши эмоции в сообщении

В этой статье я опишу своего бота в телеграм, который работает и сейчас.

     28.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Вопросы и обсуждения
     28.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи
     27.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи

Python и теория множеств

В Python есть очень полезный тип данных для работы с множествами – это set. Об этом типе данных, примерах использования, и небольшой выдержке из теории множеств пойдёт речь далее.

     27.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи
     27.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Релизы
     27.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Статьи

Как защитить Python-приложения от внедрения вредоносных скриптов

Python-приложения используют множество скриптов. Этим и пользуются злоумышленники, чтобы подложить нам «свинью» — туда, где мы меньше всего ожидаем её увидеть.

Одним из достоинств Python считается простота использования: чтобы запустить скрипт, нужно просто сохранить его в .py-файле и выполнить команду python с этим файлом (например, python my_file.py). Так же легко разбить наш файл, например, на модули my_app.py и my_lib.py и далее для подключения модулей использовать конструкцию import...from: import my_lib from my_app.py.

Однако у этой простоты и лёгкости есть и обратная сторона: чем проще вам выполнять код из разных локаций, тем больше у злоумышленника возможностей для вмешательства.

     27.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Релизы

Dependency Injector 3.33 - Add mypy support

- Add typing stubs to support mypy checks

     26.08.2020       Выпуск 349 (24.08.2020 - 30.08.2020)       Релизы