Стандарты безопасности программного обеспечения - PullRequest
11 голосов
/ 19 февраля 2009

Каких отраслевых стандартов безопасности известно кому-то, которых нужно придерживаться при разработке программного обеспечения, связанного с управлением устройством / системой, которое может нанести вред людям, использующим его?

Ответы [ 7 ]

5 голосов
/ 19 февраля 2009

Начните здесь: http://www.aonix.com/safety_critical_overview.html

Читать это: http://www.ghs.com/products/safety_critical/index.html

Послушайте это: http://www.podnova.com/channel/388090/episode/7/

Это хорошо понятная тема. В течение многих лет военные создавали программное обеспечение для обеспечения безопасности.

4 голосов
/ 13 мая 2009

Ссылка Aonix выше хороша для основных рассуждений. Если вам нужны примеры того, как работают определенные стандарты, вы можете зайти в Google по следующему адресу:

  • IEC61508: «Функциональная безопасность электрических / электронных / программируемых электронных систем, связанных с безопасностью (E / E / PES)». Базовый стандарт, на который ссылаются в различных отраслевых стандартах. Эта страница МЭК является хорошей отправной точкой. Часть 61508-3 о программном обеспечении.
  • DO-178B: стандарт авионики с той же областью применения, что и в стандарте IEC61508, который несколько отличается от программного обеспечения
  • IEC60601-1-4: сделки с "Программируемые электрические медицинские системы" (часть стандартов серии 60601)
  • EN5012x: Стандарты железной дороги - 50128 - это программное обеспечение.
1 голос
/ 13 марта 2010

Подходы варьируются в зависимости от поля. (извините, я оцениваю только 1 ссылку ...)

Avionics: DO-178B: (см. википедию)

Информационная безопасность Общие критерии (см. веб-сайт портала Common Criteria)

FDA контролирует программное обеспечение для медицинских устройств (например, рентгеновские аппараты) http://www.fda.gov/medicaldevices/deviceregulationandguidance/guidancedocuments/default.htm

Список рассылки с критикой безопасности (Великобритания) в U of York, Великобритания, является отличным ресурсом Там недавно было обсуждение того, как применять стандарты SIL (см. википедию по стандартам SIL) к программным системам.

1 голос
/ 20 февраля 2009

Различные отрасли промышленности имеют разные стандарты. Авиация и робототехника например. Стандарты все еще развиваются в некоторых новых отраслях, таких как хирургические роботы. Тем не менее, есть некоторые общие элементы. Первое - это избыточность. Я работаю с промышленными роботами. Для критических элементов, таких как управление скоростью, мы используем три разных вычисления на двух разных контроллерах. Для систем аварийного останова мы используем двойные цепи, каждая красная кнопка электронного останова имеет два физических переключателя.

Раньше я работал на самолете. На автопилотах самолетов часто два или даже три отдельных компьютера выполняют расчеты и сравнивают результаты.

Цель состоит в том, чтобы предотвратить любой сбой, который сделает систему небезопасной.

Вам необходимо ознакомиться с правилами и положениями, регулирующими область, в которой вы работаете, чтобы понять, каковы требования законодательства, но вы должны сделать всю систему безопасной.

1 голос
/ 19 февраля 2009

MISRA - это стандарт, применяемый в автомобильной промышленности, но это стандарт кодирования, обеспечивающий правильность работы и портативность.

Вам нужно прочитать о несчастных случаях в Тераке , чтобы понять сложность этой проблемы.

Кроме того, НАСА и военные документы широко доступны и обсуждают стандарты кодирования, которые позволяют определить безопасность системы.

-Adam

0 голосов
/ 20 февраля 2009

Не является безопасным стандартом, но некоторое время читая comp.risk, вы увидите, какие проблемы вам нужно будет приложить для предотвращения.

(Книга "Риски, связанные с компьютером" тоже очень хорошая.)

0 голосов
/ 19 февраля 2009

Программное обеспечение не должно никогда запускать систему, которая может кого-то травмировать. Единственное возможное (и все еще сомнительное) время, которое может быть ложным, - это использование надежного ПЛК , специально разработанного для обеспечения безопасности.

Вы должны посмотреть на:

...