|
|
|||||||||||||||||||||||||||||
|
Запуск и анализ тестов программных продуктов при помощи инструмента управления тестированием Rational ClearQuestИсточник: CM-Консалт Брайан Брайсон (Brian Bryson), IBM developerWorks Россия
Научитесь осуществлять управление тестированием с новыми функциями и возможностями IBM Rational ClearQuest V 7.0 TestManager, который теперь выполняет функции управления тестированием, ранее выполняемые IBM Rational TestManager. В данном руководстве описаны основные принципы установки, конфигурирования, планирования и запуска различных типов тестов при помощи нового инструмента. В руководстве рассказывается, как использовать запросы ClearQuest, а также возможности работы с отчетами для анализа результатов тестирования. ВведениеУправление тестированием при помощи IBM Rational ClearQuestВ версии 7.0 IBM Rational ClearQuest значительно изменилась стратегия IBM Rational в области подхода к управлению тестированием. В предыдущих версиях функциональные возможности управления реализовывались в инструменте IBM Rational TestManager, который включал планирование тестирования, выполнение и анализ результатов тестирования для организаций, занимающихся обеспечением качества. Начиная с версии 7.0 управление тестированием осуществляет ClearQuest. ClearQuest предоставляет такие же основные функциональные возможности как и Rational TestManager, но обладает и некоторыми дополнительными функциями, которые решают проблемы организации в области обеспечения качества. Среди преимуществ можно выделить следующие:
Обзор руководстваЦель данного руководства - познакомить с основными функциональными возможностями управления тестированием, представленными в версии 7.0 IBM Rational ClearQuest. В данном руководстве мы рассмотрим следующие этапы работы:
Целевая аудиторияДанное руководство предназначено для пользователей, которые впервые работают с ClearQuest. В их число входят как пользователи, которые апробируют ClearQuest впервые, так и те, которые уже используют ClearQuest для управления изменениями и хотели бы воспользоваться новыми возможностями инструмента управления тестированием. Время на выполнение руководстваПосле того, как Вы установите это ПО, Вам потребуется 30-60 минут, чтобы выполнить все задания. Подготовка к работе с руководствомЕдинственное необходимое условие для работы с руководством - наличие программного продукта IBM Rational ClearQuest и времени для выполнения заданий. Чтобы объяснить все возможности ClearQuest, руководство содержит zip-файл с примером теста, который Вы будете использовать, чтобы ознакомиться с различными концепциями. (См. Рисунок 1.) Установите файлы, выполнив следующие шаги:
Рис. 1. Диалоговое окно CQTM test scripts Инсталляция ClearQuest и создание базы данныхДля работы с данным руководством никаких предварительных знаний о IBM Rational ClearQuest не требуется. Вы пройдете через все этапы, от инсталляции до отчетов. В первом разделе Вы выполните первые два этапа. Во-первых, Вы установите ClearQuest, а затем создадите базу данных для хранения данных ClearQuest. Инсталляция IBM Rational ClearQuestУстановите IBM Rational ClearQuest, выполнив следующие шаги:
Создание хранилища схемы и примера базы данныхВыполняя следующие шаги, создайте базу данных:
Запустите ClearQuest и войдите в систему
В данном руководстве Вы будете пользоваться клиентом ClearQuest Eclipse, который является самостоятельным инструментом Eclipse. Все, что Вы будете делать, можно сделать и через плагин Eclipse, однако навигация по меню немного отличается. Большая часть задач осуществляется при помощи представления ClearQuest Test Manager, которое доступно только в клиентах Eclipse. Более того, не пытайтесь выполнить задания при помощи ClearQuest Windows или других родных для данной операционной системы клиентов. Выполните следующие шаги (также см. Рисунок 2):
Рис. 2. IBM Rational ClearQuest Теперь Вы подсоединены к базе данных CQTST, которую Вы создали ранее, и теперь можно выполнять задания руководства. Конфигурация проекта тестированияПрежде чем начать создавать планы тестирования и наборы тестовых данных, необходимо выполнить однократную установку и конфигурацию. Вы должны предоставить ClearQuest основную информацию, например расположение, где Вы хотели бы хранить тестовые ресурсы. Реестр ресурсовРеестр ресурсов будут содержать все Ваши ресурсы. Здесь будут находиться все ваши планы тестирования, содержащие все наборы тестовых данных. Здесь будут храниться все наборы тестов, а также пути файлов для тестов IBM Rational Manual Tester, IBM Rational Functional Tester и IBM Rational Performance Tester. Кроме того, сюда сохраняются все результаты тестирования. См. Рисунок 3 и Рисунок 4. Выполните эти шаги, чтобы создать реестр ресурсов:
Рис. 3. Диалоговое окно создания реестра ресурсов Конфигурации и свойства конфигураций
ClearQuest TestManager признает, что большинство групп по тестированию запускают тестирование на различных конфигурациях. В качестве примера, группы по качеству запускают одни и те же тесты на разных операционных системах и их версиях, например Microsoft Windows XP, Microsoft Windows Server или Linux. В качестве варианта, группе может потребоваться протестировать различные аппаратные конфигурации, например машину с 512 MB RAM и другую машину с 2 GB RAM. Какой бы ни была конфигурация, ClearQuest TestManager может записывать различные свойства конфигурации (например операционная система, память, место на диске и так далее), чтобы вы могли сгруппировать свойства в обычные конфигурации. Конфигурации и свойства конфигурации не являются частью реестра ресурсов. Тем не менее, к ним можно организовать общий доступ через реестры ресурсов. Преимущество в том, что Вам необходимо ввести информацию только один раз, вместо того, чтобы переделывать конфигурацию для каждого реестра ресурсов. Выполняя следующие шаги, создайте основные свойства конфигурации (также см. Рисунок 5):
Рис. 5. Свойства конфигурации
Рис. 6. Созданные конфигурации и свойства конфигурации Планирование тестированияСоздание реестра ресурсов и конфигурация - это простые, выполняемые за один раз, операции, которые Вы обычно делаете на ранних стадиях создание тестового проекта. Тем не менее, планирование тестирования - это процесс, который выполняется на протяжении всего проекта. В следующем разделе Вы создадите многоуровневый план тестирования. План тестирования - организованная структура наборов тестовых данных. Наборы тестовых данных - конкретные тесты или проверки, которые Вы хотите выполнить на Вашей системе. Таким образом, после того, как Вы создали планы тестирования, Вы вставите наборы тестовых данных в планы тестов. В конце концов Вы свяжете конфигурации, которые создали в предыдущем разделе, с наборами тестовых данных. Простой набор тестовых данных - абстрактное понятие, которое означает то, что Вы хотите тестировать. Связывая конфигурацию с наборами тестовых данных, Вы создадите сконфигурированный набор тестовых данных, которые определяют, не только что Вы хотите тестировать, но и где Вы хотите запустить свои тесты (на какой платформе или с какой конфигурацией). Создание планов тестированияПервый шаг процесса планирования тестирования - создание плана тестирования, который будет содержать все ваши наборы тестовых данных. Есть много способов организации планирования тестирования и наборов тестовых данных. Вместо долгого чтения о всех "за" и "против" в организации планирования, Вы просто воспользуетесь очень простой структурой функциональной декомпозиции для создания дочерних тестовых планов для различных функциональных областей приложения. При использовании данной структуры архитектура плана тестирования будет соответствовать архитектуре приложения. Выполните следующие шаги, чтобы создать основную структуру тестового плана:
Теперь, когда Вы создали основной план тестирования, Вы можете создать планы тестирования некоторых функциональных областей приложения Classics Online (см., описания примера приложения на врезке).
Создание наборов тестовых данных
После того, как Вы установили структуру плана тестирования, следующий шаг - введение тестовых данных в план. Наборы тестовых данных определяют каждую из проверок, которые Вы собираетесь выполнить на вашей системе. (См. Рисунок 8.) Создайте набор тестовых данных для каждого плана тестирования, выполнив следующие шаги:
Рис. 8. Планы тестирования с соответствующими тестовыми данными Связывание сценариев теста с тестовыми даннымиПлан тестирования и тестовые данные составляют логический план тестирования. Возможно, Вы считаете, что план тестирования - это список наборов тестовых данных для выполнения? Но как Вы запустите эти тесты? И как Вы узнаете, пройден тест или нет? Ответ: при помощи вкладки Execution. Вкладка Execution используется, чтобы связать набор тестовых данных со сценарием теста. Сценарий теста выдает затем отчет об удаче или неудаче тестирования. ClearQuest TestManager поддерживает выполнение сценариев теста, созданных при помощи автоматизированных инструментов IBM Rational Functional Tester, IBM Rational Manual Tester и IBM Rational Performance Tester. Также поддерживается Test and Performance Tool Platform или TPTP-совместимые тесты, например тесты TPTP JUnit.
Установка места размещения файлов Прежде чем связать сценарий тестирования с наборами данных для тестирования, необходимо указать ClearQuest места размещения файлов ваших тестов. (См. Рисунок 9.) Выполняя следующие шаги, установите места размещения файлов для сценариев Rational Manual Tester и Rational Functional Tester:
Рис. 9. Пути к файлам указывает ClearQuest, где искать сценарии автоматизации теста Установление связей между сценариями теста и наборами тестовых данных Теперь ClearQuest знает, где находятся сценарии. Выполните следующие шаги, чтобы связать сценарии Rational Functional Tester и Rational Manual Tester с наборами тестовых данных (см. также Рисунок 10):
Рис. 10. Сценарий теста, связанный с набором тестовых данных Сценарий теста просмотра существующего заказа (View Existing Order) соединен с набором тестовых данных View Existing Order Status. (В данном случае ID Вашей записи - CQTST00000047, но он может быть и другим.) Выполнение теста
Преследуя цель создать универсальное руководство, мы не предполагаем, что у вас уже установлены какие-либо инструменты выполнения тестовых сценариев, например Rational Manual Tester или Rational Functional Tester. Вот почему следующий раздел касается только выполнения теста. Сначала Вы запустите отдельный набор тестовых данных, а затем создадите тестовую последовательность. Первый шаг - вне зависимости от того, как выполняются тесты - связать конфигурации с наборами тестовых данных. (См. Рисунок 11.) Связывание конфигураций с наборами тестовых данныхНаборы тестовых данных - абстрактный признак. Набор тестовых данных представляет собой нечто, что должно быть протестировано, но сами набор нельзя запустить. Набор тестовых данных становится исполняемым, когда Вы связываете его с конкретной конфигурацией. Вы уже создали две конфигурации, работая с руководством, следующий шаг - связать тестовые данные с конфигурациями. При помощи следующих шагов свяжите конфигурацию с набором тестовых данных:
График итераций тестовКонфигурации - это то, где надо запустить тестовые данные. В ClearQuest Вы также определяете когда запускать набор тестовых данных. То, когда запускаются набор тестовых данных, называется итерацией. (См. Рисунок 12.) Если Вы знакомы с IBM Rational Unified Process или RUP, то понятие итераций не будет для Вас новым. Пользователи Rational TestManager также знакомы с понятием итерации. Идея итерации - определить, когда или на каком этапе разработки тестовые данные могут быть запущены. Итерации индивидуальны для каждой организации и вашего процесса разработки. Чтобы не усложнять процедуру, выполните следующие шаги, чтобы создать три этапа разработки или итераций:
Запустите один сконфигурированный набор тестовых данных Для такого важного шага процесс запуска или выполнения теста удивительно прост. Вы просто щелкаете правой кнопкой мыши на configured test case, а затем нажимаете Execute. Чтобы выполнить сконфигурированные тестовые данные, должен быть установлен инструмент автоматизации. Если он не установлен, опция Execute будет недоступна. Примечание: Не все клиенты ClearQuest могут выполнять тестирование. Клиенты Windows и Web не могут запускать сценарии. Клиенты Linux могут выполнять только сценарии Rational Functional Tester Java. Клиент ClearQuest, который используется в данном руководстве, может выполнять только сценарии Rational Manual Tester. Только плагин Eclipse может выполнять сценарии всех типов. Поэтому, для всех пользователей, которые будут запускать сценарии прямо из ClearQuest, рекомендуется использовать плагин Eclipse в качестве основного клиента ClearQuest. Создание последовательности сконфигурированных тестовых данных
Вы вряд ли будете часто выполнять отдельные сконфигурированные наборы тестовых данных (хотя это и возможно). Гораздо более вероятно, что вы соберёте серию из несколько сконфигурированных наборов тестовых данных для последовательного выполнения. В терминологии ClearQuest это называется тестовая последовательность. (См. Рисунок 13.) Выполняя следующие шаги, создайте тестовую последовательность сконфигурированного набора тестовых данных:
Выполните следующие шаги, чтобы добавить сконфигурированные наборы тестовых данных к тестовой последовательности:
Запуск тестовой последовательностиКак и при запуске отдельных сконфигурированных наборов тестовых данных, все, что надо сделать, чтобы запустить выполнение последовательности - это нажать правой кнопкой мыши на тестовой последовательности, а затем выбрать Execute. Опять же, в соответствии с целями руководства, Вы не будете выполнять тест. В следующем шаге Вы лишь смоделируете его выполнение, импортируя результаты из тестов, которые уже были выполнены для Вас лабораториями тестирования IBM Rational. Импорт результатов тестирования
На этом этапе обычно нужно просто запустить сконфигурированные наборы тестовых данных или тестовые последовательности, и результат автоматически будет передан в ClearQuest в качестве записей журнала тестирования. Тем не менее, так данное руководство предполагает, что вы не используете эти инструменты, воспользуемся альтернативным методом заполнения журнала тестирования ClearQuest. ClearQuest имеет функцию импорта, которая позволяет связать запись журнала тестирования с сконфигурированным набором тестовыми данными. Запись журнала тестирования содержит два ключевых параметра: отметку о времени и дате и заключение. Заключения бывают следующие - Pass (тест пройден), Fail (тест не пройден) или Inconclusive (тест не завершён). Запись в журнале тестирования - ключевой ресурс. При сравнении со всеми другими записями она дает подробную информацию о проекте тестирования. Выполните следующие шаги, чтобы импортировать записи журнала тестирования для сконфигурированных наборов тестовых данных:
Анализ результатов тестированияНаконец, начал час расплаты. В этот момент Вы видите результаты Вашей упорной работы по записи и выполнению наборов тестовых данных. На этом этапе Вы сможете выполнять запросы и отчеты для окончательной диагностики "состояния здоровья" Вашего проекта. Отчеты можно запускать столько раз, сколько хотите, чтобы получить отчет о состоянии, содержащий самую свежую информацию. Вы также можете поделиться отчетами и результатами запроса с другими членами команды. Пользователи, которые сконфигурировали ClearQuest Web, могут предоставить Web-доступ ко всем отчетам. Пользователи, которые не настроили эту функцию ClearQuest, могут просто экспортировать и рассылать результаты по e-mail другим членам команды. Вне зависимости от того, каким образом Вы передаете информацию коллегам, ClearQuest дает Вам всю информацию, необходимую для доступа к тестируемым приложениям. Переход к примеру базы данныхВместо того, чтобы импортировать сотни тестовых журналов, в данном руководстве Вы будете анализировать предварительно наполненную результатами базу данных, чтобы сэкономить время. Этот пример базы данных также включает несколько созданных в лаборатории IBM Rational специальных запросов, которые вы можете использовать в собственных проектах. (См. Рисунок 14.) Выполните следующие шаги, чтобы соединиться с базой данных.
Рисунок 14. Установленное соединение с базой данных Sample Data ClearQuest предоставляет диаграммы, запросы и отчеты ClearQuest предоставляет три формата для анализа данных: диаграммы, запросы и отчеты. (См. Рисунок 15.) Мы рассмотрим примеры всех трёх. Выполните следующие шаги, чтобы перейти к инструментам анализа:
Запуск диаграмм ClearQuest TestManagerВыполните следующие шаги, чтобы ознакомиться с диаграммами, которые содержатся в ClearQuest (например, см. Рисунок 17 и Рисунок 1):
Рис. 16. Данная диаграмма выдает графическое представление всех результатов об успешном/неуспешном прохождении тестов в выбранном реестре ресурсов. Это глобальная сводка высшего уровня всех тестов.
Запуск отчетов ClearQuest TestManager
Тогда как диаграммы содержат только графическую информацию, отчеты могут содержать как графические, так и текстовые данные. Чтобы проверить отчеты, которые идут с ClearQuest, выполните следующие шаги:
Рис. 18. Отчет о результатах тестирования, сформированный при помощи Build Отчеты ClearQuest Reports могут содержать как графические, так и текстовые данные. На Рисунке 19 сводка результатов тестирования от Build выводит отчёт об успешном/неуспешном завершении тестирования различных сборок. Отчеты ClearQuest можно редактировать при помощи специального ПО редактирования отчётов Crystal Reports, которое доступно в Business Objects. Запуск запросов ClearQuest TestManagerЗапросы не предлагают графическое представление информации, как в диаграммах или отчетах, но это, пожалуй, самый мощный инструмент в инструментарии анализа данных. Запросы легко создать и запустить, они предоставляют информацию любого уровня. Выполните следующие шаги, чтобы запустить некоторые запросы, включённые в ClearQuest TestManager:
Рис. 19. Configured Test Cases - запрос Verdict History Запрос Configured Test Cases - Verdict History выдает список результатов выполнения для каждого сконфигурированного набора тестовых данных. Вы можете использовать этот запрос, чтобы проследить, было ли неуспешное завершение данного сконфигурированного набора тестовых данных. Создание собственного запросаВполне вероятно, что вам понадобится создать собственные запросы, чтобы проанализировать данные. Представьте, что руководитель проекта придёт к Вам и попросит список всех наборов тестовых данных, которые завершились ошибкой. Что Вы ему скажете? ClearQuest содержит всю информацию, но как её извлечь? Выполните следующие шаги и создайте запрос, чтобы просмотреть, выполнение каких сконфигурированных наборов тестовых данных завершилось неуспешно.
Рис. 20. Запрос наборов тестовых данных, завершившихся неудачей Запрос выводит список всех сконфигурированных наборов тестовых данных, завершившихся неудачей в самое последнее время. Дважды щелкнув на любой записи, Вы можете увидеть её описание. Изучение запросов, включенных в ClearQuestВы увидите, что в папке Personal Queries есть несколько запросов. Это запросы, созданные тестировщиками лаборатории IBM Rational для Вашего обучения. Многие записи содержат информацию из записей различного типа. В папке Integrated Requirement-Defect-TestCase Queries, в качестве примера, Вы найдете записи, которые соотносят наборы тестовых данных с требованиями, а затем с ошибками. Используйте эти запросы и изучайте их, чтобы узнать, каким образом ClearQuest может предоставить вам всю необходимую информацию для тестирования вашего ПО и отслеживания проектов тестирования. Повторение и следующие шагиВ этом руководстве вы изучили большое количество материала. Начав с нуля, Вы создали план тестирования и наборы тестовых данных. Вы создали конфигурации и итерации, научились запускать тесты ClearQuest и импортировали результаты тестовых данных. Мы преследовали цель подвести Вас к такому этапу, на котором Вы сможете превратить все данные по Вашему проекту в полезную информацию. Вы сделали это на этапе анализа, выполняя и проверяя запросы, диаграммы и отчеты ClearQuest. Затем Вы создали запросы для извлечения необходимой Вам информации. Вы только что завершили основное обучение работе с ClearQuest TestManager, но это весьма поверхностные знания. Мы не затронули eSignatures, журнал регистрации, совместное использование данных с удаленными сайтами при помощи ClearQuest MultiSite и ClearQuest Web. Вы не настраивали поля, формы или действия. Когда вы будете готовы, или если вам понадобится более полная информация, можно ещё многому научиться. В этом и заключается вся прелесть IBM Rational ClearQuest. Новички могут воспользоваться предложенной конфигурацией и быстро начать работу. Тем же, кто собирается воспользоваться всем богатством функций этого ПО, ClearQuest предлагает массу различных возможностей. Ссылки по теме
|
|