Тестовая документация, метрики Flashcards

1
Q

Зачем нужна тестовая документация? Какие её виды?

A

Тестовая документация — это набор документов, создаваемых перед началом процесса тестирования и непосредственно в процессе. Эти документы описывают покрытие тестами и процесс выполнения тестов, в них указываются необходимые для тестирования вещи, приводится основная терминология и т. д.
Тестовая документация определяет, что для нас важно и почему, какие действия мы должны выполнить и сколько времени у нас есть. Наконец, в документации обозначено, чего должна достичь команда и что сигнализирует об окончании процесса.
Непонимание того, как и почему должна вести себя та или иная функция, приводит к большему количеству ошибок. Неправильная расстановка приоритетов может привести к пропуску багов и предоставлению неполных отчетов. Примеры можно продолжать и продолжать.
Тест-план
Чек-лист
Тест-кейс
Тест-сценарий
Баг-репорт
Спецификация требований

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Что такое тест-план? Какие элементы у него есть?

A

Документ, описывающий весь объем работ по тестированию, начиная с описания объекта, стратегии, расписания, критериев начала и окончания тестирования, до необходимого в процессе работы оборудования, специальных знаний, а также оценки рисков с вариантами их разрешения.
Содержит: введение (что содержит данный документ), краткое описание тестируемой системы, условия тестирования, график и план проведения испытаний. По сути, этот документ описывает объекты и функции тестирования, определяет подход, ресурсы выполнения различных видов тестовой деятельности, исполнителей тестового задания.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Как правильно тест-план использовать, поддерживать и нужен ли он вообще?

A

Чем именно помогает качественный тест план:
Это руководство для процесса тестирования. Он определяет подход к тестированию и описывает методы тестирования, которым необходимо следовать.
Он содержит подробную информацию об области тестирования и бизнес целях продукта. Это помогает определить время, необходимое для тестирования продукта.
Он четко определяет роли и обязанности каждого члена команды, чтобы каждый человек в группе тестирования знал, что от него требуется.
Он предоставляет график тестирования. Следовательно, он предоставляет нам базовый график для контроля и отслеживания прогресса вашей команды.
В нем изложены требования к ресурсам и потребности в оборудовании, которые необходимы для проведения процесса тестирования.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Какая разница между чек-листом и тест-кейсами?

A

Чек лист - называется набор идей для тестирования в виде списка.
Тест-кейс - Набор входных данных, условий выполнения и ожидаемых результатов, разработанный с целью проверки того или иного свойства или поведения программного средства. Документ, представляющий формальную запись тест-кейса.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Когда использовать чек-лист, а когда тест-кейс?

A

Чек-лист - когда мало функционала, когда один тестировщик, который знает все особенности.
Тест-кейс - когда большие проекты, когда много новичков.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Зачем писать тест-кейсы?

A

Структурировать и систематизировать подход к тестированию
Проводить регрессионное тестирование
Вычислять метрики тестового покрытия
Отслеживать соответствие текущей ситуации плану (сколько примерно понадобится тест-кейсов, сколько уже есть, сколько выполнено из запланированного на данном этапе количества и т.д.).
Уточнить взаимопонимание между заказчиком, разработчиками и тестировщиками (тест-кейсы зачастую намного более наглядно показывают поведение приложения, чем это отражено в требованиях)..
Хранить информацию для длительного использования и обмена опытом между сотрудниками и командами (или, как минимум, не пытаться удержать в голове сотни страниц текста).
Проводить регрессионное тестирование и повторное тестирование (которые без тест-кейсов было бы вообще невозможно выполнить).
Повышать качество требований (написание чек-листов и тест-кейсов — хорошая техника тестирования требований).
Быстро вводить в курс дела нового сотрудника, недавно подключившегося к проекту.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Можно ли ссылаться в шагах тест-кейса на шаги других тестов или тесты целиком?

A

Нет

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Расскажи об особенностях хорошего тест-кейса.

A

Правильный технический язык, точность и единообразие формулировок
Баланс между специфичностью и общностью
“Показательность” (высокая вероятность обнаружения ошибок)
Последовательность в достижении цели
Отсутствие лишних действий
Неизбыточность по отношению к другим ТК
Демонстративность (способность демонстрировать обнаружение ошибок очевидным способом)
Прослеживаемость
Возможность повторного использования
Повторяемость
Соответствие принятым шаблонам оформления и традициям.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Как выбрать приоритет для тест-кейса?

A

Приоритет зависит от важности требований пользовательских сценариев или функциональностей, с которыми связан ТК
Потенциальной важности дефекта, на поиск которой направлен ТК
Степени риска, связанного с проверяемым ТК-сом требованием, сценарием, функциональностью.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Из чего состоит тест-кейс?

A

Идентификатор
Приоритет
Требование
Модуль и подмодуль
Заглавие ТК
Предусловия
Шаги ТК
ОР

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Какие знаешь инструменты работы с тестовой документацией? С какими работал?

A

Для ручного тестирования существуют специальные средства коллективной работы, позволяющие управлять командой и задачами. Вся коммуникация осуществляется прямо в программе:

Jira (https://www.atlassian.com/ru/software/jira/guides) – решение для комфортной работы над проектами, отслеживания задач, совместной корректировки документов, планирования и наглядного проектирования.
Redmine (https://www.easyredmine.com/redmine-org/) позволяет контролировать проекты, отслеживать задачи, составлять контрольные списки дел, строить диаграммы и графики. Есть бесплатная пробная версия.
TestRail (https://www.gurock.com/testrail/) – решение, созданное специально для команд QA. Оно позволяет управлять тестовыми примерами, планами и запусками, а также получать информацию о ходе тестирования в режиме реального времени. С помощью TestRail можно настроить интеграцию с трекерами проблем.

Для тестировщика важна наглядность. Очень легко пропустить важную информацию в потоке однотипных данных. Создание и анализ скриншотов с помощью специальных инструментов – важная часть работы инженера QA:

Snagit (https://www.techsmith.com/screen-capture.html) содержит все лучшее из возможного. Приложение вырезает скриншоты, записывает видео и аудио, работает с веб-камерой, создает gif, рисует, пересылает. Есть бесплатная пробная версия.
Recordit API (http://help.recordit.co/api/) создает видео и отправляет сразу в приложение, а еще одним кликом превращает его в gif.
Monosnap (https://monosnap.com/welcome) редактирует скриншоты, выделает детали, скрывает конфиденциальную информацию.
GreenShot (https://getgreenshot.org/) – свободное ПО для создания скриншотов на Windows. Легкий, гибкий и надежный инструмент.

Чек-лист – отличный инструмент. Тестировщик может им пользоваться для контроля, остальные участники процесса – для понимания происходящего:

Testpad (https://ontestpad.com/) – инструмент для составления плана тестирования и контроля с помощью списков. Комфортный и гибкий в работе.
Sitechсo (https://sitechco.ru/) – онлайн-сервис для ведения чек-листов, позволяющий хранить результаты, просматривать отчеты и статистику. Большое достоинство Sitechсo – возможность интеграции с Jira Cloud.
Teamsuccess (https://teamsuccess.io) – сервис, в котором перечислены некоторые проверки, которые пригодятся при тестировании и помогут структурировать идею. По аналогии существуют целые базы базы чек-листов, их иногда удобно использовать в работе.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Что такое Traceability Matrix?

A

Это таблица, содержащая соответствие функциональных требований продукта и подготовленных тестовых сценариев.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Что такое тест-стратегия? Чем отличается от тест-плана?

A

Тест-стратегия - описание процесса тестирования с точки зрения применяемых методов, подходов, видов тестирования, технологий, инструментальных средств и т.д.
Тест-стратегия - это часть тест-плана. Тест-стратегия и тест-план могут быть двумя отдельными документами.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Как можно посчитать покрытие тестами?

A

Расчет тестового покрытия относительно требований проводится по формуле:
Tестовое покрытие = (количество требований, проверяемых тест кейсами/общее количество требований) * 100%
Для измерения покрытия требований, необходимо проанализировать требования к продукту и разбить их на пункты. Опционально каждый пункт связывается с тест кейсами, проверяющими его.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Когда можно считать, что тестирование окончено?

A

Это зависит от рисков для тестируемой системы. Есть несколько критериев, по которым вы можете прекратить тестирование:
- Сроки (Тестирование, Релиз)
- Бюджет теста был исчерпан
- Уровень ошибок падает ниже определенного уровня
- Тестовые случаи выполнены с определенным процентом пройдено
- Альфа или бета периоды для тестирования заканчиваются
- Покрытие кода, функциональности или требований выполняется до определенной точки

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Какие виды рисков существуют? Что такое Mitigation Plan?

A

Риск — это существующий или развивающийся фактор процесса, который обладает потенциально негативным воздействием на процесс.

Временные риски. Это вероятность того, что на выполнение задач в проекте уйдёт больше времени, чем запланировано.

Бюджетные риски. Из-за плохого планирования стоимость проекта может оказаться больше, чем заложено в бюджете.

Риски изменения объёмов работы. Они могут появиться, если исполнители не поняли требований заказчика или он сам внёс в проект изменения. Это может привести к пересмотру бюджета, сроков и списка задач.

Стратегия тестирования отсутствует или непринята группой разработки или заказчиком

Увольнение сотрудников

Неполная оценка трудозатрат по проект

Тест-план не привязан к плану проекта

Риск игнорирования рисков

Mitigation Plan - это план действий, направленный на снижение вероятности и/или влияния риска до какого-либо приемлемого уровня (план митигации рисков)

17
Q

Какую ценность несет анализ результатов тестирования команде и проекту в целом?

A

Создание полной картины о работоспособности системы
Возможность увидеть четкий список дефектов по степени срочности исправления
Упрощенная возможность воспроизведения багов.

18
Q

Расскажи о метриках качества, которые ты применял. Зачем они нужны?

A

Метрика покрытия требований. Требование считается покрытым, если на него ссылается хотя бы один тест-кейс:

Метрика плотности покрытия требований. Учитывается, сколько тест-кейсов ссылается на несколько требований:

Метрика покрытия классов эквивалентности. Анализируется, сколько классов эквивалентности затронуто тест-кейсами:

Метрика покрытия граничных условий. Анализируется, сколько значений из группы граничных условий затронуто тест-кейсами:

Метрика выполнения тест-кейсов
TCвыполнение = TC выполненные/TC всего * 100%
Метрика процентного показателя успешного прохождения тест-кейсов
TCуспешность = TC успешно выполненных/TC всего выполненных * 100%
Метрика сдвига расписания
Значение сдвига = (Количество дней до планового завершения/ необходимое количество для завершения работы) -1
Метрика покрытия кода модульными тестами

Нужны для:
Оценки прогресса.
Промежуточных замеров.
Поиска проблем.
Числовых обоснований.