유전 프로그래밍과 신경망 회로를 이용한 화학 공정 산업에서의 함수 최적화

화학공학의 이론과 응용 제8권 제1호 2002년

Theories and Applications of Chem. Eng., 2002, Vol. 8, No. 1

이창준, 김윤식, 윤인섭

서울대학교 응용화학부

Optimization Using a Genetic Programming and Artificial Neural Network in Chemical Process Industries

Changjun Lee, Sungjoon Ahn, En Sup Yoon

School of Chemical Engineering, Seoul National University

서론

화학공정산업에서 대부분의 시스템은 비선형이며 따라서 그에 맞는 모델을 개발하기 위해서는 상당한 노력과 시간을 필요로 한다. 현재 공정산업에서는 지식기반 모델 기술을 사용하고 있으며 이 기술은 크게 두 가지의 범주로 나눌 수 있다. 하나는 다양한 통계적 기법과 회귀분석에 기초한 것이며 다른 하나는 신경망 회로와 진화 프로그래밍 등의 기법에 기반을 두는 인공지능을 이용하는 것이다. 본 연구에서는 후자 즉 인공지능 기법을 이용한 화학 공정 모델링에 대해서 제안하고자 한다.

화학 공정 모델링에서 대체적으로 신경망 회로는 시스템 규명 및 모델링에 유전 프로그래밍은 정상상태 모델링에 이용되고 있다. 하지만 신경망 회로와 유전 프로그래밍의 특징을 결합한 모델은 거의 없는 실정이다.

여기서 제안한 모델은 신경망 회로의 피드백과 유전 프로그래밍의 Symbolic evolving method을 결합한 형태이다. 사례연구를 통하여 이 모델이 더 나은 예측 결과뿐만 아니라 공정 최적화에 사용될 수 있는 Empirical formulae도 만들 수 있음을 확인할 수 있었으며 더 작은 수의 Neuron으로 기존의 신경망 회로보다 더 작은 에러를 갖는 효율적인 모델임을 확인할 수 있었다.

본론

진화 신경망 회로

진화 신경망 회로는 ANN(Artificial Neural Network)과 GP(Genetic Programming) 두 가지의 인공지능 기법에 근거하여 만들었다. 여기서 GP는 GAs(Genetic Algorithms)와는 다른 형태를 가진다. GAs는 Bit string의 형태로 진화하는 반면에 GP는 Tree structure의 형태로 진화함으로써 기존의 GAs가 가졌던 가장 큰 단점, 많은 문제들을 고정길이의 Bit string으로 표현하는 것이 어렵다는 점을 경감시키는 기법이다.

여기서의 모델은 GP의 두 가지 큰 특징인 유전 구조의 군집(Population)의 무작위적인 진화와 각각의 데이타가 Symbolic formulae의 Tree Representation 구조로 표현된다는 점을 이용하였다.

Fig 1.은 진화신경망 회로의 구조를 나타낸 것이다. 그림에서 보는 바와 같이 진화 신경망 회로는 입력값 등을  이용하여 결과 데이터를 얻는다. 여기서 산출한 결과를 진화와 변이의 과정을 통하여 근접한 결과를 구한다. 최종적으로 산출한 데이터를 가지고 마르코프 체인을 거쳐서 더 정확한 결과를 구한다.

모델 알고리즘

GP나 ANN과 비슷하게 진화 신경망 회로도 결과 예측 전에 훈련과정을 거친다. 훈련단계에서 군집에 있는 각각의 데이터가 무 작위적으로 발생하게 된다.

한편 진화 신경망 회로의 훈련과정에서는 세 가지의 변이 과정이 있다. 초기변이, 중간 변이 그리고 거대 변이가 그것이다. Fig 2는 초기 변이의 예를 보인다.

변이와 더불어 교차가 있으며 데이터 수준의 교차와 두 Tree의 일부분이 결합하여 새로운 Tree를 형성하는 교차로 나눌 수 있다. Fig 3은 후자의 교차를 보여주고 있다.

위의 두 가지 과정을 거쳐서 새로운 유전자 조합이 나오게 되며 이런 과정을 반복하고 적합도 함수(Fitness Function)를 적용하여 적당한 적합도가 나오게 되면 훈련 과정은 중단되며 이를 이용하여 예측을 하게 되는 것이다.

진화 신경망 회로에서는 두 가지의 주요 모델 변수를 정해줘야 하는데 Tree의 최대 깊이와 적절한 연산자가 그것이다.

Fig 1. 진화신경망 회로의 구조

Fig 2. 초기변이의 예

Fig 3. Tree 간의 Crossover

진화 신경망 회로의 장점

다른 유전 프로그래밍이 한번의 변이를 거치는 반면에 이 모델에서는 위에서 언급한 것과 같이 세 번의 변이를 거친다. 변이 수가 많을 수록 더 융통성 있고 효율적인 구조를 갖는다는 것을 의미하며 따라서 이 모델이 효율적임을 알 수 있다.

또한 다른 신경망 회로와는 달리 진화 신경망 회로는 □블랙박스□가 아니며 모델링 과정에서 formulae를 생산할 수 있다. 이를 통해 입력데이터와 출력 데이터간의 상호 연관성이 무엇인지를 알 수 있으며 이를 통해서 대상 공정의 특성을 파악하는데 큰 도움을 줄 수 있다.

결론

사례연구

최근에 Bihn 등이 최적화 알고리즘을 검증하기 위하여 이용한 예제(식(1))를 진화 신경망 회로에 적용하여 기존의 것 보다 개선된 성능을 확인하였다. 기존의 유전 알고리즘만 사용할 경우 해집합의 개수가 약 20초 동안 43개인 반면 진화 신경망 회로를 이용한 경우 대략 190개의 해를 구할 수 있었다.

예제(식(1))

Fig 4. 진화 신경망 회로와 유전 알고리즘의 비교

사례연구 시 제안된 알고리즘과 기존의 것과의 비교는 두 가지 측면에서 이루어졌다. 먼저 같은 시간에 얼마만큼의 성능 차이를 보이는지 비교하고, 그 다음에는 비슷한 정도의 해집합을 얻기 위하여 소요되는 수렴시간을 비교하였다.

감사의 글

본 연구가 교육부의 BK21 지원 사업과 한국과학기술재단의 국가지정연구실 사업의 지원으로 이루어진 것에 대하여 감사를 드립니다.

참고문헌

1. 이상화, 석사학위논문, 서울대학교 (2001).

2.. Bihn, T. T. and Ulrich, K., "MOBES: A Multiobjective Evolution Strategy         for Constrained Optimization Problems", Proc. of the 3rd Int. Conf. on             Genetic Algorithms(1997).

3. Papalexandri, Katerina P. and Dimkou, Theodora, I., "A Parametric                Mixed-Integer Optimization Algorithm for Multiobjective Engineering             Problems Involving Discrete Decisions", Ind. Eng. Chem. Res., 37,                  pp.1866-1882(1998) 1091(1992).

4. Li Gao and Norman W. Loney,, "Evolutionary polymorphic neural network    in chemical process modeling", Computers and Chemical Engineering, 25        pp.1403-1410(2001)

화학공학의 이론과 응용 제8권 제1호 2002년