В каких известных отраслевых стандартах безопасности программного обеспечения кто-либо имел опыт работы в разработке программного обеспечения, которое занимается управлением устройством/системой, способной нанести вред людям, использующим его?Стандарты безопасности программного обеспечения
Программное обеспечение должно never запустить систему, которая может нанести ущерб кому-либо. Единственное возможное (и все еще сомнительное) время, которое может быть неверным, - это использование safety reliable PLC, специально разработанного для обеспечения безопасности.
Вы должны смотреть в:
Травма вашего автомобиля и ABS могут убивать людей, и они управляются программным обеспечением. Вы говорите, что эти системы не должны были быть созданы? –
@Adam: Обе эти системы имеют надежные механические и электрические элементы управления. Их частью безопасности является/нет/в коде. – GEOCHET
«Обе эти системы имеют отказоустойчивые механические и электрические элементы управления». Ложь. Подписав NDA, я не могу предоставить вам ссылки. Мне было бы интересно узнать, что делают другие поставщики автомобильных компонентов этих компонентов, что заставляет вас чувствовать, что у них механические или электрические блокировки. –
Начало здесь: http://www.aonix.com/safety_critical_overview.html
Прочитайте это: http://www.ghs.com/products/safety_critical/index.html
Слушайте: http://www.podnova.com/channel/388090/episode/7/
Это хорошо понятая тема. Военные строят безопасное для безопасности программное обеспечение в течение многих лет.
Ссылка Aonix больше не работает. Его можно найти в веб-архиве: http://web.archive.org/web/20110209112635/http://www.aonix.com/safety_critical_overview.html –
MISRA - это стандарт, применяемый в автомобильной промышленности, но это стандарт кодирования, обеспечивающий правильность работы и переносимость.
Чтобы понять сложность этой проблемы, вам нужно прочитать на Therac accidents.
Кроме того, НАСА и военные документы широко доступны и обсуждают стандарты кодирования, которые позволяют определять безопасность системы.
-Adam
Не стандарт Системы безопасности, но чтение comp.risks некоторое время покажет вид проблем, вам нужно будет работать, чтобы предотвратить.
(Книга «Компьютер рисков, связанных с» очень хорошо, как хорошо.)
Различные отрасли промышленности имеют разные стандарты. Например, самолеты и робототехника. Стандарты все еще развиваются в некоторых новых отраслях, таких как хирургические роботы. Все еще есть некоторые общие элементы. Первое - это избыточность. Я работаю с промышленными роботами. Для критических элементов, таких как управление скоростью, мы используем три разных вычисления на двух разных контроллерах. Для систем аварийного останова мы используем двойные цепи, каждая красная кнопка e-stop имеет два физических переключателя.
Раньше я работал на самолетах. На автопилотах самолетов часто два или даже три отдельных компьютера выполняют вычисления и сравнивают результаты.
Целью является предотвращение любого отказа при сбое системы.
Вам необходимо ознакомиться с правилами и положениями, которые регулируют область, в которой вы работаете, чтобы узнать, какие юридические требования, но вы должны сделать всю систему безопасной.
Ссылка Aonix выше является хорошей для основных рассуждений.Если вы хотите примеры того, как определенные стандарты работы, вы можете Google для следующих целей:
Подходы варьируются в зависимости от области. (Извините, я только оценить 1 ссылку ...)
авионики: DO-178B: (см википедии)
информационной безопасность В Общих критериях (см Common Criteria сайт портала)
в FDA управляет программное обеспечение для медицинских устройств (думаю, рентгеновские аппараты) http://www.fda.gov/medicaldevices/deviceregulationandguidance/guidancedocuments/default.htm
безопасность критичных список рассылки (Великобритания) на U Йоркского в Великобритании является отличным ресурсом В последнее время обсуждалось, как применять стандарты SIL (см. Wikipedia on SIL standards) для программных систем.
любая неисправность (состояние ошибки) должна остановить устройство и потребовать действия человека, чтобы включить его снова. – dusoft
Возможно, точный дубликат http://stackoverflow.com/questions/142722/coding-for-high-reliability-availability-security-what-standards-do-i-read - но это меня никогда не удовлетворило, поэтому, надеюсь, это один придет с лучшими результатами ... –