[ Donald MacKenzie (1994), “Computer-related accidental death: an empirical exploration”, Science and Public Policy, 21(4): 233-248. ]
1. Definition of terms
1.1. Death
1.2. Accidental
1.3. Computer
1.4. Related
2. Method
3. Overall data
4. Physical causes
5. Software error
6. Human-computer interaction
6.1. Medical
6.2. Military
6.3. Air
6.4. Robot-related
6.5. Other automated industrial plant
7. Conclusions
7.1. How safe are computers?
7.2. Need for systematic data collection
7.3. The technical and the human
7.4. Self-negating prophecies
p. 233
컴퓨터 시스템은 얼마나 안전한가?
p. 233
논문의 목적: 컴퓨터 시스템을 포함하는 치명적인 사고에 관한 경험적 조사에 무엇이 포함되어야 하는지 살펴보는 것
1. Definition of terms
p. 234
‘computer-related accidental death’의 정의는 무엇인가?
1.1. Death
p. 234
1.2. Accidental
p. 234
1.3. Computer
1.4. Related
p. 235
2. Method
3. Overall data
p. 239
4. Physical causes
5. Software error
p. 240
- safety-critical computing에 관한 논의는 소프트웨어 오류와 data set에 초점을 맞춤
6. Human-computer interaction
6.1. Medical
6.2. Military
6.3. Air
6.4. Robot-related
6.5. Other automated industrial plant
7. Conclusions
7.1. How safe are computers?
p. 244
이 논문에서 제시하는 데이터는 불충분하기는 함
p. 245
p. 245
- 디지털 컴퓨터가 상대적으로 새로운 위험을 도입한다는 주장도 있다.
- software-controlled systems은 논리적으로 복잡해지는 경향이 있다. 시스템의 복잡성은 잠재적으로 위험한 설계상 결함을 숨기는 위험을 늘림
7.2. Need for systematic data collection
7.3. The technical and the human
p. 245
컴퓨터와 관계된 사망 사고가 설계 결함에 의해서만 일어난 경우는 드물다.
p. 246
multi-causality
페로가 system accidents라고
p. 246
- Rochlin (1991): “intensive computerisation은 기술과 인류의 관계를 바꿀 수 있다.”
p. 246
전통적인 해군 함정이나 전투기에서, 인간은 정보 운용 과정에서 핵심적인 역할
컴퓨터화된 상황에서, 자동화된 시스템은 중요해짐
인간의 궁극적인 통제는 여전히 그러한 시스템에서 남아 있지만,
그러한 시스템에 대한 인간의 책임은 줄어듦
p. 246
danger는 stress와 routine 모두에서 온다.
스트레스를 받는 상황에서,
p. 246
컴퓨터 시스템을 안전하게 더 안전하게 만들려면, 컴퓨터 시스템의 기술적인 측면만 강조하는 것보다 컴퓨터가 ‘실제 세계’에서 작동할 때의 인식적이고 조직적인 측면도 강조해야
심리학자와 조직 분석가가 컴퓨터 과학자와 같이 해야
p. 246
타이타닉 효과: 시스템을 더 안전하다고 믿을수록, 일어날 수 있는 사고는 더 재앙적이다.
7.4. Self-negating prophecies
p. 246
많은 맥락에서, 컴퓨터는 인간을 더 안전하게 함
예) 산업에서의 자동화
p. 247
우리가 컴퓨터가 안전하다고 믿으면 우리는 컴퓨터를 위험하게 만들 수 있다.
우리가 컴퓨터를 위험하다고 믿으면 우리는 컴퓨터를 더 안전하게 만들 수 있다.
(2017.06.21.)
