Как наилучшим образом измерить охват автоматизации по тестируемой системе с помощью отчетов? - PullRequest
0 голосов
/ 07 ноября 2019

Как наилучшим образом измерить статистику автоматизации / охват по тестируемой системе (из вашего опыта)?

Краткий обзор:

  • В настоящее время имеется более 100 тестов (файл функций и сценарии), которые также помечены в зависимости от типа области системы, которую они тестируют.
  • Тесты также интегрированы в Jenkins, который также генерирует отчеты после выполнения теста.

В настоящее время у меня возникают проблемы с измерением количества созданных тестов и количества тестов, которые необходимо создать для данной системы, которая может быть внешней системой, системой пользовательского интерфейса и т. Д.

Мне известны отчеты о протяженности, которые помогают различать разные типы тестов и т. Д. (Теги ...), но я думал, что смогу узнать мнение других людей по этому вопросу?

Спасибо

1 Ответ

1 голос
/ 08 ноября 2019

Всегда есть место для ошибок суждения при попытке

измерить статистику автоматизации / охват по тестируемой системе

, поскольку нет инструментов для (на самом деле) автоматизировать мышление и навыки хорошего инженера QA. Тестовое покрытие как показатель полезно только до определенного момента. Это может помочь вам выявить пробелы и в том, где вам нужно потратить больше усилий. Как вы узнаете, что 69% - это плохое тестовое покрытие, а 70% - хорошее!?

По моему опыту, чтобы дать вам более конкретный ответ, мы использовали простую формулу:

для каждого критерия приемлемости вам нужно по крайней мере:

  • один положительный сценарий
  • один отрицательный сценарий (или два, если вы хотите охватить), что делает система, то, что она не должна't "и" система не делает, то, что она должна "случается)
  • деструктивный сценарий (например, некорректный ввод)

Конечно, в большинстве случаев выпотребуется больше, чем это, но они должны быть минимумом по умолчанию. Теперь, имея некоторые цифры и сопоставления, вы можете создать тепловую карту, которая будет отображаться в ваших отчетах. Может быть, что-то вроде делового дружеского отношения:

simple test coverage heatmap

...