Econometrics

ÓÒÓÑ ØÖ
×




Å
Ð Ö Ð









Î Ö× ÓÒ ¼º ½¸ ¸ ¾¼¼









Ôغ Ó
ÓÒÓÑ
× Ò
ÓÒÓÑ
À ×ØÓÖݸ ÍÒ Ú Ö× Ø Ø ÙØ ÒÓÑ Ö
ÐÓÒ ¸



Ñ
к
Ö ÐÙ º ׸ ØØÔ »»Ô Ö ØÓºÙ º ×»Ñ
Ö Ð

ÓÒØ ÒØ×



Ä ×Ø Ó ÙÖ × ½¼





Ä ×Ø Ó Ì Ð × ½¾





ÔØ Ö ½º ÓÙØ Ø × Ó
ÙÑ ÒØ ½¿



½º Ä
Ò× × ½¿



¾º Ç Ø Ò Ò Ø Ñ Ø Ö Ð× ½¿



¿º Ò ×Ý Û Ý ØÓ Ù× Ä Ò Ç
Ø Ú ØÓ Ý ½



º ÃÒÓÛÒ Ù × ½





ÔØ Ö ¾º ÁÒØÖÓ Ù
Ø ÓÒ
ÓÒÓÑ
Ò
ÓÒÓÑ ØÖ
ÑÓ Ð× ½





ÔØ Ö ¿º ÇÖ Ò ÖÝ Ä ×Ø ËÕÙ Ö × ½



½º Ì Ä Ò Ö ÅÓ Ð ½



¾º ×Ø Ñ Ø ÓÒ Ý Ð ×Ø ×ÕÙ Ö × ½



¿º ÓÑ ØÖ
ÒØ ÖÔÖ Ø Ø ÓÒ Ó Ð ×Ø ×ÕÙ Ö × ×Ø Ñ Ø ÓÒ ¾¼



¿º½º ÁÒ X, Y ËÔ
¾¼



¿º¾º ÁÒ Ç × ÖÚ Ø ÓÒ ËÔ
¾¼



¿º¿º ÈÖÓ
Ø ÓÒ Å ØÖ
× ¾½



º ÁÒ Ù ÒØ Ð Ó × ÖÚ Ø ÓÒ× Ò ÓÙØÐ Ö× ¾¾



º ÓÓ Ò ×× Ó Ø ¾



º Ì
Ð ××
Ð Ð Ò Ö Ö Ö ×× ÓÒ ÑÓ Ð ¾



º ËÑ ÐÐ × ÑÔÐ ×Ø Ø ×Ø
Ð ÔÖÓÔ ÖØ × Ó Ø Ð ×Ø ×ÕÙ Ö × ×Ø Ñ ØÓÖ ¾



º½º ÍÒ × Ò ×× ¾



º¾º ÆÓÖÑ Ð ØÝ ¾



º¿º Ì Ú Ö Ò
Ó Ø ÇÄË ×Ø Ñ ØÓÖ Ò Ø Ù××¹Å Ö ÓÚ Ø ÓÖ Ñ ¾



º Ü ÑÔÐ Ì Æ ÖÐÓÚ ÑÓ Ð ¿¼



º½º Ì ÓÖ Ø
Ð
ÖÓÙÒ ¿¼



º¾º Ó ¹ ÓÙ Ð × ÙÒ
Ø ÓÒ Ð ÓÖÑ ¿½



º¿º Ì Æ ÖÐÓÚ Ø Ò ÇÄË ¿¾



º Ü Ö
× × ¿¿



Ü Ö
× × ¿¿





ÔØ Ö º Å Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ Ø ÓÒ ¿



½º Ì Ð Ð ÓÓ ÙÒ
Ø ÓÒ ¿



½º½º Ü ÑÔÐ ÖÒÓÙÐÐ ØÖ Ð ¿



¾º ÓÒ× ×Ø Ò
Ý Ó ÅÄ ¿



¿º Ì ×
ÓÖ ÙÒ
Ø ÓÒ ¿



º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Ó ÅÄ ¿



º½º Ó Ò ÔÔ Ò ¸ Ò ½



º Ì Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ÕÙ Ð ØÝ ¾



¿

ÇÆÌ ÆÌË







º Ì Ö Ñ Ö¹Ê Ó ÐÓÛ Ö ÓÙÒ ¿



º Ü Ö
× ×



Ü Ö
× ×





ÔØ Ö º ×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ó Ø Ð ×Ø ×ÕÙ Ö × ×Ø Ñ ØÓÖ



½º ÓÒ× ×Ø Ò
Ý



¾º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ



¿º ×ÝÑÔØÓØ

Ò
Ý



º Ü Ö
× ×





ÔØ Ö º Ê ×ØÖ
Ø ÓÒ× Ò ÝÔÓØ × × Ø ×Ø×



½º Ü
Ø Ð Ò Ö Ö ×ØÖ
Ø ÓÒ×



½º½º ÁÑÔÓ× Ø ÓÒ



½º¾º ÈÖÓÔ ÖØ × Ó Ø Ö ×ØÖ
Ø ×Ø Ñ ØÓÖ ½



¾º Ì ×Ø Ò ¾



¾º½º Ø¹Ø ×Ø ¾



¾º¾º F Ø ×Ø



¾º¿º Ï Ð ¹ØÝÔ Ø ×Ø×



¾º º Ë
ÓÖ ¹ØÝÔ Ø ×Ø× ´Ê Ó Ø ×Ø׸ Ä Ö Ò ÑÙÐØ ÔÐ Ö Ø ×Ø×µ



¾º º Ä Ð ÓÓ Ö Ø Ó¹ØÝÔ Ø ×Ø×



¿º Ì ×ÝÑÔØÓØ
ÕÙ Ú Ð Ò
Ó Ø Äʸ Ï Ð Ò ×
ÓÖ Ø ×Ø×



º ÁÒØ ÖÔÖ Ø Ø ÓÒ Ó Ø ×Ø ×Ø Ø ×Ø
×



º ÓÒ Ò
ÒØ ÖÚ Ð×



º ÓÓØ×ØÖ ÔÔ Ò ¼



º Ì ×Ø Ò ÒÓÒÐ Ò Ö Ö ×ØÖ
Ø ÓÒ׸ Ò Ø ÐØ Å Ø Ó ¾



º Ü ÑÔÐ Ø Æ ÖÐÓÚ Ø



º Ü Ö
× ×





ÔØ Ö º Ò Ö Ð Þ Ð ×Ø ×ÕÙ Ö ×



½º
Ø× Ó ÒÓÒ×Ô Ö
Ð ×ØÙÖ Ò
× ÓÒ Ø ÇÄË ×Ø Ñ ØÓÖ



¾º Ì ÄË ×Ø Ñ ØÓÖ



¿º × Ð ÄË ½



º À Ø ÖÓ×
×Ø
ØÝ ¾



º½º ÇÄË Û Ø Ø ÖÓ×
×Ø

ÓÒ× ×Ø ÒØ Ú Ö
ÓÚ ×Ø Ñ Ø ÓÒ ¾



º¾º Ø
Ø ÓÒ ¾



º¿º ÓÖÖ
Ø ÓÒ



º º Ü ÑÔÐ Ø Æ ÖÐÓÚ ÑÓ Ð ´ Ò µ



º ÙØÓ
ÓÖÖ Ð Ø ÓÒ



º½º Ù× ×



º¾º
Ø× ÓÒ Ø ÇÄË ×Ø Ñ ØÓÖ



º¿º Ê´½µ ¼



º º Å ´½µ ¾



º º ×ÝÑÔØÓØ
ÐÐÝ Ú Ð Ò Ö Ò
× Û Ø ÙØÓ
ÓÖÖ Ð Ø ÓÒ Ó ÙÒ ÒÓÛÒ ÓÖÑ ¿



º º Ì ×Ø Ò ÓÖ ÙØÓ
ÓÖÖ Ð Ø ÓÒ



º º Ä Ô Ò ÒØ Ú Ö Ð × Ò ÙØÓ
ÓÖÖ Ð Ø ÓÒ



º º Ü ÑÔÐ ×



º Ü Ö
× × ¼



Ü Ö
× × ¼

ÇÆÌ ÆÌË







ÔØ Ö º ËØÓ
×Ø
Ö Ö ××ÓÖ× ¾



½º × ½ ¾



¾º × ¾ ¿



¿º × ¿



º Ï Ò Ö Ø ××ÙÑÔØ ÓÒ× Ö ×ÓÒ Ð



º Ü Ö
× ×



Ü Ö
× ×







ÔØ Ö º Ø ÔÖÓ Ð Ñ×



½º ÓÐÐ Ò Ö ØÝ



½º½º Ö × ÓÒ ÙÑÑÝ Ú Ö Ð ×



½º¾º
ØÓ
ÓÐÐ Ò Ö ØÝ



½º¿º Ø
Ø ÓÒ Ó
ÓÐÐ Ò Ö ØÝ



½º º Ð Ò Û Ø
ÓÐÐ Ò Ö ØÝ



¾º Å ×ÙÖ Ñ ÒØ ÖÖÓÖ ½¼½



¾º½º ÖÖÓÖ Ó Ñ ×ÙÖ Ñ ÒØ Ó Ø Ô Ò ÒØ Ú Ö Ð ½¼½



¾º¾º ÖÖÓÖ Ó Ñ ×ÙÖ Ñ ÒØ Ó Ø Ö Ö ××ÓÖ× ½¼¾



¿º Å ×× Ò Ó × ÖÚ Ø ÓÒ× ½¼¿



¿º½º Å ×× Ò Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ô Ò ÒØ Ú Ö Ð ½¼¿



¿º¾º Ì × ÑÔÐ × Ð
Ø ÓÒ ÔÖÓ Ð Ñ ½¼



¿º¿º Å ×× Ò Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ö Ö ××ÓÖ× ½¼



º Ü Ö
× × ½¼



Ü Ö
× × ½¼



Ü Ö
× × ½¼



Ü Ö
× × ½¼







ÔØ Ö ½¼º ÙÒ
Ø ÓÒ Ð ÓÖÑ Ò ÒÓÒÒ ×Ø Ø ×Ø× ½¼



½º Ð Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ× ½¼



½º½º Ì ØÖ Ò×ÐÓ ÓÖÑ ½¼



½º¾º ÄË ×Ø Ñ Ø ÓÒ Ó ØÖ Ò×ÐÓ ÑÓ Ð ½½½



¾º Ì ×Ø Ò ÒÓÒÒ ×Ø ÝÔÓØ × × ½½¿







ÔØ Ö ½½º ÜÓ Ò ØÝ Ò × ÑÙÐØ Ò ØÝ ½½



½º Ë ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× ½½



¾º ÜÓ Ò ØÝ ½½



¿º Ê Ù
ÓÖÑ ½½



º ÁÎ ×Ø Ñ Ø ÓÒ ½¾¼



º Á ÒØ
Ø ÓÒ Ý Ü
ÐÙ× ÓÒ Ö ×ØÖ
Ø ÓÒ× ½¾¿



º½º Æ
×× ÖÝ
ÓÒ Ø ÓÒ× ½¾



º¾º ËÙ
ÒØ
ÓÒ Ø ÓÒ× ½¾



º¿º Ü ÑÔÐ ÃÐ Ò³× ÅÓ Ð ½ ½¾



º ¾ËÄË ½¿¼



º Ì ×Ø Ò Ø ÓÚ Ö ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ× ½¿½



º ËÝ×Ø Ñ Ñ Ø Ó × Ó ×Ø Ñ Ø ÓÒ ½¿



º½º ¿ËÄË ½¿



º¾º ÁÅÄ ½¿



º Ü ÑÔÐ ¾ËÄË Ò ÃÐ Ò³× ÅÓ Ð ½ ½¿

ÇÆÌ ÆÌË







ÔØ Ö ½¾º ÁÒØÖÓ Ù
Ø ÓÒ ØÓ Ø ×
ÓÒ Ð ½ ½







ÔØ Ö ½¿º ÆÙÑ Ö
ÓÔØ Ñ Þ Ø ÓÒ Ñ Ø Ó × ½



½º Ë Ö
½



¾º Ö Ú Ø Ú ¹ × Ñ Ø Ó × ½



¾º½º ÁÒØÖÓ Ù
Ø ÓÒ ½



¾º¾º ËØ Ô ×Ø ×
ÒØ ½



¾º¿º Æ ÛØÓÒ¹Ê Ô ×ÓÒ ½



¿º Ë ÑÙÐ Ø ÒÒ Ð Ò ½ ¾



º Ü ÑÔÐ × ½ ¾



º½º ×
Ö Ø Ó
Ì ÐÓ Ø ÑÓ Ð ½ ¾



º¾º ÓÙÒØ Ø Ì ÈÓ ××ÓÒ ÑÓ Ð ½ ¿



º¿º ÙÖ Ø ÓÒ Ø Ò Ø Ï ÙÐÐ ÑÓ Ð ½



º ÆÙÑ Ö
ÓÔØ Ñ Þ Ø ÓÒ Ô Ø ÐÐ× ½



º½º ÈÓÓÖ ×
Ð Ò Ó Ø Ø ½



º¾º ÅÙÐØ ÔÐ ÓÔØ Ñ ½



Ü Ö
× × ½ ½







ÔØ Ö ½ º ×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ó ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ× ½ ¾



½º ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ× ½ ¾



¾º ÓÒ× ×Ø Ò
Ý ½ ¾



¿º Ü ÑÔÐ ÓÒ× ×Ø Ò
Ý Ó Ä ×Ø ËÕÙ Ö × ½



º ×ÝÑÔØÓØ
ÆÓÖÑ Ð ØÝ ½



º Ü ÑÔÐ × ½



º½º Ó Ò ÔÔ Ò ¸ Ý Ø Ò ½



º¾º Ò ÖÝ Ö ×ÔÓÒ× ÑÓ Ð× ½



º¿º Ü ÑÔÐ Ä Ò Ö Þ Ø ÓÒ Ó ÒÓÒÐ Ò Ö ÑÓ Ð ½ ¼







ÔØ Ö ½ º Ò Ö Ð Þ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ ½



½º Ò Ø ÓÒ ½



¾º ÓÒ× ×Ø Ò
Ý ½



¿º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ ½



º ÓÓ× Ò Ø Û Ø Ò Ñ ØÖ Ü ½



º ×Ø Ñ Ø ÓÒ Ó Ø Ú Ö Ò
¹
ÓÚ Ö Ò
Ñ ØÖ Ü ½



º½º Æ Û Ý¹Ï ×Ø
ÓÚ Ö Ò
×Ø Ñ ØÓÖ ½ ¼



º ×Ø Ñ Ø ÓÒ Ù× Ò
ÓÒ Ø ÓÒ Ð ÑÓÑ ÒØ× ½ ¼



º ×Ø Ñ Ø ÓÒ Ù× Ò ÝÒ Ñ
ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ½ ¿



º ×Ô

Ø ÓÒ Ø ×Ø ½ ¿



º ÇØ Ö ×Ø Ñ ØÓÖ× ÒØ ÖÔÖ Ø × ÅÅ ×Ø Ñ ØÓÖ× ½



º½º ÇÄË Û Ø Ø ÖÓ×
×Ø
ØÝ Ó ÙÒ ÒÓÛÒ ÓÖÑ ½



º¾º Ï Ø Ä ×Ø ËÕÙ Ö × ½



º¿º ¾ËÄË ½



º º ÆÓÒÐ Ò Ö × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× ½



º º Å Ü ÑÙÑ Ð Ð ÓÓ ½



½¼º Ü ÑÔÐ Ì À Ù×Ñ Ò Ì ×Ø ½



½½º ÔÔÐ
Ø ÓÒ ÆÓÒÐ Ò Ö Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ× ½ ¿



½¾º ÑÔ Ö
Ð Ü ÑÔÐ ÔÓÖØ ÓÐ Ó ÑÓ Ð ½

ÇÆÌ ÆÌË







ÔØ Ö ½ º ÉÙ × ¹ÅÄ ½



½º ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó Î Ö Ò
ÓÑÔÓÒ ÒØ× ¾¼¼



¾º Ü ÑÔÐ Ø Å ÈË Ø ¾¼½



¾º½º ÁÒ Ò Ø Ñ ÜØÙÖ ÑÓ Ð× Ø Ò Ø Ú ÒÓÑ Ð ÑÓ Ð ¾¼¾



¾º¾º Ò Ø Ñ ÜØÙÖ ÑÓ Ð× Ø Ñ Ü Ò Ø Ú ÒÓÑ Ð ÑÓ Ð ¾¼



¾º¿º ÁÒ ÓÖÑ Ø ÓÒ
Ö Ø Ö ¾¼



Ü Ö
× × ¾¼





ÔØ Ö ½ º ÆÓÒÐ Ò Ö Ð ×Ø ×ÕÙ Ö × ´ÆÄ˵ ¾½¼



½º ÁÒØÖÓ Ù
Ø ÓÒ Ò Ò Ø ÓÒ ¾½¼



¾º Á ÒØ
Ø ÓÒ ¾½½



¿º ÓÒ× ×Ø Ò
Ý ¾½¾



º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ ¾½¾



º Ü ÑÔÐ Ì ÈÓ ××ÓÒ ÑÓ Ð ÓÖ
ÓÙÒØ Ø ¾½¿



º Ì Ù××¹Æ ÛØÓÒ Ð ÓÖ Ø Ñ ¾½



º ÔÔÐ
Ø ÓÒ Ä Ñ Ø Ô Ò ÒØ Ú Ö Ð × Ò × ÑÔÐ × Ð
Ø ÓÒ ¾½



º½º Ü ÑÔÐ Ä ÓÖ ËÙÔÔÐÝ ¾½





ÔØ Ö ½ º ÆÓÒÔ Ö Ñ ØÖ
Ò Ö Ò
¾½



½º ÈÓ×× Ð Ô Ø ÐÐ× Ó Ô Ö Ñ ØÖ
Ò Ö Ò
×Ø Ñ Ø ÓÒ ¾½



¾º ÈÓ×× Ð Ô Ø ÐÐ× Ó Ô Ö Ñ ØÖ
Ò Ö Ò
ÝÔÓØ × × Ø ×Ø Ò ¾¾½



¿º Ì ÓÙÖ Ö ÙÒ
Ø ÓÒ Ð ÓÖÑ ¾¾¾



¿º½º ËÓ ÓÐ Ú ÒÓÖÑ ¾¾



¿º¾º ÓÑÔ
ØÒ ×× ¾¾



¿º¿º Ì ×Ø Ñ Ø ÓÒ ×Ô
Ò Ø ×Ø Ñ Ø ÓÒ ×Ù ×Ô
¾¾



¿º º Ò× Ò ×× ¾¾



¿º º ÍÒ ÓÖÑ
ÓÒÚ Ö Ò
¾¾



¿º º Á ÒØ
Ø ÓÒ ¾¾



¿º º Ê Ú Û Ó
ÓÒ
ÔØ× ¾¾



¿º º ×
Ù×× ÓÒ ¾¾



º à ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ× ¾¾



º½º ×Ø Ñ Ø ÓÒ Ó Ø ÒÓÑ Ò ØÓÖ ¾¾



º¾º ×Ø Ñ Ø ÓÒ Ó Ø ÒÙÑ Ö ØÓÖ ¾¿¼



º¿º ×
Ù×× ÓÒ ¾¿¼



º º Ó
Ó Ø Û Ò ÓÛ Û Ø ÖÓ××¹Ú Ð Ø ÓÒ ¾¿½



º à ÖÒ Ð Ò× ØÝ ×Ø Ñ Ø ÓÒ ¾¿½



º Ë Ñ ¹ÒÓÒÔ Ö Ñ ØÖ
Ñ Ü ÑÙÑ Ð Ð ÓÓ ¾¿½



º Ü ÑÔÐ × ¾¿



º½º à ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ Ø ÓÒ ¾¿



º¾º Ë Ñ ÒÓÒÔ Ö Ñ ØÖ
ÅÄ ×Ø Ñ Ø ÓÒ Ò Ø Å ÈË Ø ¾¿





ÔØ Ö ½ º Ë ÑÙÐ Ø ÓÒ¹ × ×Ø Ñ Ø ÓÒ ¾¿



½º ÅÓØ Ú Ø ÓÒ ¾¿



½º½º Ü ÑÔÐ ÅÙÐØ ÒÓÑ Ð Ò »ÓÖ ÝÒ Ñ
×
Ö Ø Ö ×ÔÓÒ× ÑÓ Ð× ¾¿



½º¾º Ü ÑÔÐ Å Ö Ò Ð Þ Ø ÓÒ Ó Ð Ø ÒØ Ú Ö Ð × ¾¿



½º¿º ×Ø Ñ Ø ÓÒ Ó ÑÓ Ð× ×Ô
Ò Ø ÖÑ× Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ× ¾¿



¾º Ë ÑÙÐ Ø Ñ Ü ÑÙÑ Ð Ð ÓÓ ´ËÅĵ ¾ ¼



¾º½º Ü ÑÔÐ ÑÙÐØ ÒÓÑ Ð ÔÖÓ Ø ¾ ½

ÇÆÌ ÆÌË







¾º¾º ÈÖÓÔ ÖØ × ¾ ¾



¿º Å Ø Ó Ó × ÑÙÐ Ø ÑÓÑ ÒØ× ´ÅËŵ ¾ ¾



¿º½º ÈÖÓÔ ÖØ × ¾ ¿



¿º¾º ÓÑÑ ÒØ× ¾ ¿



º
ÒØ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ ¾



º½º ÇÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü ¾



º¾º ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ ¾



º¿º ÒÓØ
Ø ×Ø Ò ¾



º Ü ÑÔÐ × ¾



º½º ×Ø Ñ Ø ÓÒ Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ× ¾



º¾º ÅÅ ×Ø Ñ Ø ÓÒ Ó ×
Ö Ø
Ó
ÑÓ Ð ¾





ÔØ Ö ¾¼º È Ö ÐÐ Ð ÔÖÓ Ö ÑÑ Ò ÓÖ
ÓÒÓÑ ØÖ
× ¾ ¾



½º Ü ÑÔÐ ÔÖÓ Ð Ñ× ¾ ¾



½º½º ÅÓÒØ ÖÐÓ ¾ ¿



½º¾º ÅÄ ¾ ¿



½º¿º ÅÅ ¾



½º º à ÖÒ Ð Ö Ö ×× ÓÒ ¾





Ð Ó Ö Ô Ý ¾





ÔØ Ö ¾½º Ò Ð ÔÖÓ
Ø
ÓÒÓÑ ØÖ
×Ø Ñ Ø ÓÒ Ó Ê ÑÓ Ð ¾



½º Ø ¾



¾º Ò Ê ÅÓ Ð ¾



¿º Ö Ù
ÓÖÑ ÑÓ Ð ¾



º Ê ×ÙÐØ× ´Áµ Ì ×
ÓÖ Ò Ö ØÓÖ ¾



º ËÓÐÚ Ò Ø ×ØÖÙ
ØÙÖ Ð ÑÓ Ð ¾





Ð Ó Ö Ô Ý ¾ ½





ÔØ Ö ¾¾º ÁÒØÖÓ Ù
Ø ÓÒ ØÓ Ç
Ø Ú ¾ ¾



½º ØØ Ò ×Ø ÖØ ¾ ¾



¾º × ÓÖØ ÒØÖÓ Ù
Ø ÓÒ ¾ ¾



¿º Á ÝÓÙ³Ö ÖÙÒÒ Ò Ä ÒÙÜ Ò×Ø ÐÐ Ø ÓÒººº ¾ ¿





ÔØ Ö ¾¿º ÆÓØ Ø ÓÒ Ò Ê Ú Û ¾



½º ÆÓØ Ø ÓÒ ÓÖ Ö ÒØ Ø ÓÒ Ó Ú
ØÓÖ× Ò Ñ ØÖ
× ¾



¾º ÓÒÚ Ö Ò ÑÓ × ¾



Ê Ð¹Ú ÐÙ × ÕÙ Ò
× ¾



Ø ÖÑ Ò ×Ø
Ö Ð¹Ú ÐÙ ÙÒ
Ø ÓÒ× ¾



ËØÓ
×Ø
× ÕÙ Ò
× ¾



ËØÓ
×Ø
ÙÒ
Ø ÓÒ× ¾



¿º Ê Ø × Ó
ÓÒÚ Ö Ò
Ò ×ÝÑÔØÓØ
ÕÙ Ð ØÝ ¾



Ü Ö
× × ¾





ÔØ Ö ¾ º Ä
Ò× × ¾



½º Ì ÈÄ ¾



¾º Ö Ø Ú ÓÑÑÓÒ× ¾





ÔØ Ö ¾ º Ì ØØ
¾ ¾

ÇÆÌ ÆÌË







½º ÀÙÖ Ð ÑÓ Ð× ¾ ¾



½º½º Ò Ø Ñ ÜØÙÖ ÑÓ Ð× ¾



¾º ÅÓ Ð× ÓÖ Ø Ñ × Ö × Ø ¾



¾º½º ×

ÓÒ
ÔØ× ¾ ¼



¾º¾º ÊÅ ÑÓ Ð× ¾ ½





Ð Ó Ö Ô Ý ¾





ÁÒ Ü ¿¼¼

Ä ×Ø Ó ÙÖ ×



½ Ä ½



¾ Ç
Ø Ú ½





½ ÌÝÔ
Ð Ø ¸ Ð ××
Ð ÅÓ Ð ½



¾ Ü ÑÔÐ ÇÄË Ø ¾½



¿ Ì Ø Ò Ó × ÖÚ Ø ÓÒ ×Ô
¾½



Ø
Ø ÓÒ Ó Ò Ù ÒØ Ð Ó × ÖÚ Ø ÓÒ× ¾¿



ÍÒ
ÒØ Ö R2 ¾



ÍÒ × Ò ×× Ó ÇÄË ÙÒ Ö
Ð ××
Ð ××ÙÑÔØ ÓÒ× ¾



× Ò ×× Ó ÇÄË Û Ò Ò ××ÙÑÔØ ÓÒ Ð× ¾



Ù××¹Å Ö ÓÚ Ê ×ÙÐØ Ì ÇÄË ×Ø Ñ ØÓÖ ¾



Ù××¹Å Ö ÓÚ Ê ×ÙÐ Ì ×ÔÐ Ø × ÑÔÐ ×Ø Ñ ØÓÖ ¿¼





½ ÂÓ ÒØ Ò ÁÒ Ú Ù Ð ÓÒ Ò
Ê ÓÒ× ¼



¾ ÊÌË × ÙÒ
Ø ÓÒ Ó ÖÑ × Þ





½ Ê × Ù Ð׸ Æ ÖÐÓÚ ÑÓ Ð¸ ×ÓÖØ Ý ÖÑ × Þ



¾ ÙØÓ
ÓÖÖ Ð Ø ÓÒ Ò Ù
Ý Ñ ××Ô

Ø ÓÒ



¿ ÙÖ Ò¹Ï Ø×ÓÒ
Ö Ø
Ð Ú ÐÙ ×



Ê × Ù Ð× Ó × ÑÔÐ Æ ÖÐÓÚ ÑÓ Ð



ÇÄË Ö × Ù Ð׸ ÃÐ Ò
ÓÒ×ÙÑÔØ ÓÒ ÕÙ Ø ÓÒ





½ s(β) Û Ò Ø Ö × ÒÓ
ÓÐÐ Ò Ö ØÝ



¾ s(β) Û Ò Ø Ö ×
ÓÐÐ Ò Ö ØÝ



¿ Ë ÑÔÐ × Ð
Ø ÓÒ × ½¼





½ Ì × Ö
Ñ Ø Ó ½



¾ ÁÒ
Ö × Ò Ö
Ø ÓÒ× Ó × Ö
½



¿ Æ ÛØÓÒ¹Ê Ô ×ÓÒ Ñ Ø Ó ½



Í× Ò ÅÙÈ ØÓ Ø Ò ÐÝØ
Ö Ú Ø Ú × ½ ½



Ä ÜÔ
Ø Ò
Ý Ó ÑÓÒ ÓÓ× ×¸ Ï ÙÐÐ ÑÓ Ð ½



Ä ÜÔ
Ø Ò
Ý Ó ÑÓÒ ÓÓ× ×¸ Ñ Ü Ï ÙÐÐ ÑÓ Ð ½



Ó Ý ÑÓÙÒØ Ò ½





½ ÇÄË ½ ¼



¾ ÁÎ ½ ¼



½¼

ÄÁËÌ Ç Á ÍÊ Ë ½½







½ ÌÖÙ Ò × ÑÔÐ ÔÔÖÓÜ Ñ Ø Ò ÙÒ
Ø ÓÒ× ¾½



¾ ÌÖÙ Ò ÔÔÖÓÜ Ñ Ø Ò Ð ×Ø
Ø × ¾¾¼



¿ ÌÖÙ ÙÒ
Ø ÓÒ Ò ÑÓÖ Ü Ð ÔÔÖÓÜ Ñ Ø ÓÒ ¾¾¼



ÌÖÙ Ð ×Ø
ØÝ Ò ÑÓÖ Ü Ð ÔÔÖÓÜ Ñ Ø ÓÒ ¾¾½



Æ Ø Ú ÒÓÑ Ð Ö Û ÑÓÑ ÒØ× ¾¿¿



à ÖÒ Ð ØØ Ç Î Ù× Ú Ö×Ù× ¾¿





½ ËÔ ÙÔ× ÖÓÑ Ô Ö ÐÐ Ð Þ Ø ÓÒ ¾





½ ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ Ä Ú Ð× ¾



¾ ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ ÖÓÛØ Ê Ø × ¾



¿ ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ Ò Ô ×× ÐØ Ö ¾





½ ÊÙÒÒ Ò Ò Ç
Ø Ú ÔÖÓ Ö Ñ ¾ ¿

Ä ×Ø Ó Ì Ð ×



½ Å Ö Ò Ð Î Ö Ò
׸ Ë ÑÔÐ Ò ×Ø Ñ Ø ´ÈÓ ××ÓÒµ ¾¼½



¾ Å Ö Ò Ð Î Ö Ò
׸ Ë ÑÔÐ Ò ×Ø Ñ Ø ´Æ ¹ÁÁµ ¾¼



¿ ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö ¸ Ç Î ¾¼





½
ØÙ Ð Ò ÈÓ ××ÓÒ ØØ Ö ÕÙ Ò
× ¾ ¾



¾
ØÙ Ð Ò ÀÙÖ Ð ÈÓ ××ÓÒ ØØ Ö ÕÙ Ò
× ¾









½¾

À ÈÌ Ê ½







ÓÙØ Ø × Ó
ÙÑ ÒØ



Ì × Ó
ÙÑ ÒØ ÒØ Ö Ø × Ð
ØÙÖ ÒÓØ × ÓÖ ÓÒ Ý Ö Ö Ù Ø Ð Ú Ð
ÓÙÖ× Û Ø
Óѹ



ÔÙØ Ö ÔÖÓ Ö Ñ× Ø Ø ÐÐÙ×ØÖ Ø Ò ÔÔÐÝ Ø Ñ Ø Ó × Ø Ø Ö ×ØÙ º Ì ÑÑ Ø



Ú Ð Ð ØÝ Ó Ü
ÙØ Ð ´ Ò ÑÓ Ð µ Ü ÑÔÐ ÔÖÓ Ö Ñ× Û Ò Ù× Ò Ø È Ú Ö× ÓÒ



Ó Ø Ó
ÙÑ ÒØ × ÓÒ Ó Ø Ú ÒØ × Ó Ø ×Ý×Ø Ñ Ø Ø × Ò Ù× º ÇÒ Ø ÓØ Ö



Ò ¸ Û Ò Ú Û Ò ÔÖ ÒØ ÓÖѸ Ø Ó
ÙÑ ÒØ × ×ÓÑ Û Ø Ø Ö× ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ



Ø ÜØ ÓÓ º Ì × ÒÓØ × Ö ÒÓØ ÒØ Ò ØÓ Ô Ö
Ø ×Ù ×Ø ØÙØ ÓÖ ÔÖ ÒØ Ø ÜØ ÓÓ º



Á ÝÓÙ Ö ×ØÙ ÒØ Ó Ñ Ò ¸ ÔÐ × ÒÓØ Ø Ø Ð ×Ø × ÒØ Ò

Ö ÙÐÐݺ Ì Ö Ö Ñ ÒÝ ÓÓ



Ø ÜØ ÓÓ × Ú Ð Ð º Û Ó ÑÝ ÚÓÖ Ø × Ö Ð ×Ø Ò Ø Ð Ó Ö Ô Ýº



Ï Ø Ö ×Ô
Ø ØÓ
ÓÒØ ÒØ׸ Ø ÑÔ × × × ÓÒ ×Ø Ñ Ø ÓÒ Ò Ò Ö Ò
Û Ø Ò Ø ÛÓÖÐ



Ó ×Ø Ø ÓÒ ÖÝ Ø ¸ Û Ø × ØÓÛ Ö Ñ
ÖÓ
ÓÒÓÑ ØÖ
׺ Ì ×
ÓÒ Ð × ×ÓÑ Û Ø



ÑÓÖ ÔÓÐ × Ø Ò Ø Ö×Ø Ð ¸ × Ò
Á Ú Ø Ù Ø Ø Ø
ÓÙÖ× ÑÓÖ Ó Ø Òº Á ÝÓÙ Ø



ÑÓÑ ÒØ ØÓ Ö Ø Ð
Ò× Ò Ò ÓÖÑ Ø ÓÒ Ò Ø Ò ÜØ ×
Ø ÓÒ¸ ÝÓÙ³ÐÐ × Ø Ø ÝÓÙ Ö



Ö ØÓ
ÓÔÝ Ò ÑÓ Ý Ø Ó
ÙÑ Òغ Á ÒÝÓÒ ÛÓÙÐ Ð ØÓ
ÓÒØÖ ÙØ Ñ Ø Ö Ð Ø Ø



ÜÔ Ò × Ø
ÓÒØ ÒØ׸ Ø ÛÓÙÐ Ú ÖÝ Û Ð
ÓÑ º ÖÖÓÖ
ÓÖÖ
Ø ÓÒ× Ò ÓØ Ö Ø ÓÒ× Ö



Ð×Ó Û Ð
ÓÑ º





½º Ä
Ò× ×

ÐÐ Ñ Ø Ö Ð× Ö
ÓÔÝÖ Ø Ý Å
Ð Ö Ð Û Ø Ø Ø Ø Ø ÔÔ Ö× ÓÚ º Ì Ý



Ö ÔÖÓÚ ÙÒ Ö Ø Ø ÖÑ× Ó Ø ÆÍ Ò Ö Ð ÈÙ Ð
Ä
Ò× ¸ Ú Öº ¾¸ Û
ÓÖÑ× Ë
¹



Ø ÓÒ ½ Ó Ø ÒÓØ ×¸ ÓÖ¸ Ø ÝÓÙÖ ÓÔØ ÓÒ¸ ÙÒ ÖØ Ö Ø Ú ÓÑÑÓÒ× ØØÖ ÙØ ÓÒ¹Ë Ö Ð ¾º Ð
Ò× ¸



Û
ÓÖÑ× Ë
Ø ÓÒ ¾ Ó Ø ÒÓØ ×º Ì Ñ Ò Ø Ò ÝÓÙ Ò ØÓ ÒÓÛ × Ø Ø ÝÓÙ Ö Ö



ØÓ ÑÓ Ý Ò ×ØÖ ÙØ Ø × Ñ Ø Ö Ð× Ò ÒÝ Û Ý ÝÓÙ Ð ¸ × ÐÓÒ × ÝÓÙ × Ö ÝÓÙÖ




ÓÒØÖ ÙØ ÓÒ× Ò Ø × Ñ Û Ý Ø Ñ Ø Ö Ð× Ö Ñ Ú Ð Ð ØÓ ÝÓÙº ÁÒ Ô ÖØ
ÙÐ Ö¸ ÝÓÙ



ÑÙ×Ø Ñ Ú Ð Ð Ø ×ÓÙÖ
Р׸ Ò Ø Ð ÓÖѸ ÓÖ ÝÓÙÖ ÑÓ Ú Ö× ÓÒ Ó Ø



Ñ Ø Ö Ð׺





¾º Ç Ø Ò Ò Ø Ñ Ø Ö Ð×

Ì Ñ Ø Ö Ð× Ö Ú Ð Ð ÓÒ ÑÝ Û Ô ¸ Ò Ú Ö ØÝ Ó ÓÖÑ× Ò
ÐÙ Ò È



Ò Ø Ø Ð ×ÓÙÖ
׸ Ø Ô Ö ØÓºÙ º ×»Ñ
Ö Ð»
ÓÒÓÑ ØÖ
×»º ÁÒ Ø ÓÒ ØÓ Ø Ò Ð



ÔÖÓ Ù
ظ Û
ÝÓÙ³Ö ÔÖÓ ÐÝ ÐÓÓ Ò Ø Ò ×ÓÑ ÓÖÑ ÒÓÛ¸ ÝÓÙ
Ò Ó Ø Ò Ø Ø Ð



×ÓÙÖ
׸ Û
Û ÐÐ ÐÐÓÛ ÝÓÙ ØÓ
Ö Ø ÝÓÙÖ ÓÛÒ Ú Ö× ÓÒ¸ ÝÓÙ Ð ¸ ÓÖ × Ò ÖÖÓÖ
ÓÖÖ
Ø ÓÒ×



Ò
ÓÒØÖ ÙØ ÓÒ׺ Ì Ñ Ò Ó
ÙÑ ÒØ Û × ÔÖ Ô Ö Ù× Ò Ä ´ÛÛÛºÐÝܺÓÖ µ Ò ÆÍ

½

Ç
Ø Ú ´ÛÛÛºÓ
Ø Ú ºÓÖ µº Ä × Ö Û Ø ÝÓÙ × × Û Ø ÝÓÙ Ñ Ò ÛÓÖ ÔÖÓ
××ÓÖ¸



×
ÐÐÝ ÛÓÖ Ò × Ö Ô
Ð ÖÓÒØ Ò ØÓ Ä Ì º ÁØ ´Û Ø ÐÔ ÖÓÑ ÓØ Ö ÔÔÐ
Ø ÓÒ×µ




Ò ÜÔÓÖØ ÝÓÙÖ ÛÓÖ Ò ÄÌ ¸ ÀÌÅĸ È Ò × Ú Ö Ð ÓØ Ö ÓÖÑ׺ ÁØ Û ÐÐ ÖÙÒ ÓÒ Ä ÒÙܸ



Ï Ò ÓÛ׸ Ò Å
ÇË ×Ý×Ø Ñ׺ ÙÖ ½ × ÓÛ× Ä Ø Ò Ø × Ó
ÙÑ Òغ



ÆÍ Ç
Ø Ú × Ò Ù× ÓÖ Ø Ü ÑÔÐ ÔÖÓ Ö Ñ׸ Û
Ö ×
ØØ Ö Ø ÓÙ



Ø Ó
ÙÑ Òغ Ì ×
Ó
× ÑÓØ Ú Ø Ý ØÛÓ
ØÓÖ׺ Ì Ö×Ø × Ø ÕÙ Ð ØÝ Ó



½

Ö × Ù× Ò Ø × Ò× Ó Ö ÓÑ ¸ ÙØ Ä × Ð×Ó Ö Ó
Ö º



½¿

¿º Æ Ë Ï ÌÇ ÍË Ä Æ Ç Ì Î ÌÇ ½









ÙÖ ½º Ä









Ø Ç
Ø Ú ÒÚ ÖÓÒÑ ÒØ ÓÖ Ó Ò ÔÔÐ
ÓÒÓÑ ØÖ
׺ Ì ÙÒ Ñ ÒØ Ð ØÓÓÐ× Ü ×Ø Ò



Ö ÑÔÐ Ñ ÒØ Ò Û Ý Ø Ø Ñ ÜØ Ò Ò Ø Ñ ÖÐÝ ×ݺ Ì Ü ÑÔÐ ÔÖÓ Ö Ñ×



Ò
ÐÙ Ö Ñ Ý
ÓÒÚ Ò
ÝÓÙ Ó Ø × ÔÓ Òغ Ë
ÓÒ Ðݸ Ç
Ø Ú ³× Ð
Ò× Ò Ô ÐÓ×ÓÔ Ý Ø×



Ò Û Ø Ø Ó Ð× Ó Ø × ÔÖÓ
غ Ì Ö Ðݸ Ø ÖÙÒ× ÓÒ Ä ÒÙܸ Ï Ò ÓÛ× Ò Å
Ç˺ ÙÖ



¾ × ÓÛ× Ò Ç
Ø Ú ÔÖÓ Ö Ñ Ò Ø Ý Æ Ø¸ Ò Ø Ö ×ÙÐØ Ó ÖÙÒÒ Ò Ø ÔÖÓ Ö Ñ



Ò × ÐÐ Û Ò ÓÛº







¿º Ò ×Ý Û Ý ØÓ Ù× Ä Ò Ç
Ø Ú ØÓ Ý

Ì Ü ÑÔÐ ÔÖÓ Ö Ñ× Ö Ú Ð Ð × Ð Ò × ØÓ Ð × ÓÒ ÑÝ Û Ô ÒØ È Ú Ö× ÓÒ¸



Ò Ö º ËÙÔÔÓÖØ Ð × Ò ØÓ ÖÙÒ Ø × Ö Ú Ð Ð Ö º Ì Ð × ÛÓÒ³Ø ÖÙÒ ÔÖÓÔ ÖÐÝ



ÖÓÑ ÝÓÙÖ ÖÓÛ× Ö¸ × Ò
Ø Ö Ö Ô Ò Ò
× ØÛ Ò Ð × ¹ Ø Ý Ö ÓÒÐÝ ÐÐÙ×ØÖ Ø Ú



Û Ò ÖÓÛ× Ò º ÌÓ × ÓÛ ØÓ Ù× Ø × Ð × ´ Ø Ò ÖÙÒ Ø Ñµ¸ ÝÓÙ × ÓÙÐ Ó ØÓ Ø



ÓÑ Ô Ó Ø × Ó
ÙÑ Òظ × Ò
ÝÓÙ Û ÐÐ ÔÖÓ ÐÝ Û ÒØ ØÓ ÓÛÒÐÓ Ø Ô Ú Ö× ÓÒ



ØÓ Ø Ö Û Ø ÐÐ Ø ×ÙÔÔÓÖØ Ð × Ò Ü ÑÔР׺ Ì Ò × Ø Ø × ÍÊÄ Ó Ø È Ð



ØÓ ÔÓ ÒØ ØÓ Û Ö Ú Ö Ø Ç
Ø Ú Ð × Ö Ò×Ø ÐÐ º Ì Ò ÝÓÙ Ò ØÓ Ò×Ø ÐÐ Ç
Ø Ú Ò



Ó
Ø Ú ¹ ÓÖ º ÐÐ Ó Ø × Ñ Ý ×ÓÙÒ Ø
ÓÑÔÐ
Ø ¸
Ù× Ø ×º Ò × Ö ×ÓÐÙØ ÓÒ ×



Ú Ð Ð



Ì È Ö ÐÐ ÐÃÒÓÔÔ Ü ×ØÖ ÙØ ÓÒ Ó Ä ÒÙÜ × Ò ÁËÇ Ñ Ð Ø Ø Ñ Ý ÙÖÒØ



ØÓ ÊÇź ÁØ
ÓÒØ Ò× ÓÓØ Ð ¹ ÖÓѹ ÒÙ»Ä ÒÙÜ ×Ý×Ø Ñ Ø Ø × ÐÐ Ó Ø ØÓÓÐ×



Ò ØÓ Ø Ø × Ó
ÙÑ Òظ ÖÙÒ Ø Ç
Ø Ú Ü ÑÔÐ ÔÖÓ Ö Ñ׸ Ø
º ÁÒ Ô ÖØ
ÙÐ Ö¸ Ø Û ÐÐ



ÐÐÓÛ ÝÓÙ ØÓ
ÙØ ÓÙØ ×Ñ ÐÐ ÔÓÖØ ÓÒ× Ó Ø ÒÓØ × Ò Ø Ø Ñ¸ Ò × Ò Ø Ñ ØÓ Ñ ×



Ä ´ÓÖ Ì µ Ð × ÓÖ Ò
ÐÙ× ÓÒ Ò ÙØÙÖ Ú Ö× ÓÒ׺ Ì Ò ÖÖÓÖ
ÓÖÖ
Ø ÓÒ׸ Ø ÓÒ׸ Ø
º



Ì ÙØÓÑ Ø
ÐÐÝ Ø
Ø× Ø Ö Û Ö Ó ÝÓÙÖ
ÓÑÔÙØ Ö¸ Ò Û ÐÐ ÒÓØ ØÓÙ
ÝÓÙÖ

º ÃÆÇÏÆ Í Ë ½









ÙÖ ¾º Ç
Ø Ú









Ö × ÙÒÐ ×× ÝÓÙ ÜÔÐ
ØÐÝ Ø ÐÐ Ø ØÓ Ó ×Óº Ì Ö ×ÓÒ Û Ý Ø × ÒÓØ × Ö ÒØ Ö Ø



ÒØÓ Ä ÒÙÜ ×ØÖ ÙØ ÓÒ ÓÖ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò Û ÐÐ ÔÔ Ö ÒØ ÝÓÙ Ø ØÓ ÔØ Ö ¾¼º



Á ÝÓÙ ÓÒ³Ø Ø Ø Ø Ö Ò ÝÓÙ³Ö ÒÓØ ÒØ Ö ×Ø Ò Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò ¸ ÔÐ × Ù×Ø ÒÓÖ



Ø ×ØÙ ÓÒ Ø Ø Ø³× ÒÓØ Ö Ð Ø ØÓ
ÓÒÓÑ ØÖ
׺ Á ÝÓÙ ÔÔ Ò ØÓ ÒØ Ö ×Ø Ò



Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò ÙØ ÒÓØ
ÓÒÓÑ ØÖ
׸ Ù×Ø × Ô ØÓ ÔØ Ö ¾¼º





º ÃÒÓÛÒ Ù ×

Ì × ×
Ø ÓÒ × Ö Ñ Ò Ö ØÓ ÑÝ× Ð ØÓ ØÖÝ ØÓ Ü Û Ø Ò ×º



• Ì È Ú Ö× ÓÒ × ÝÔ ÖÐ Ò × ØÓ ÙÖ × Ø Ø ÙÑÔ ØÓ Ø ÛÖÓÒ ÙÖ º Ì



ÒÙÑ Ö× Ö
ÓÖÖ
ظ ÙØ Ø Ð Ò × Ö ÒÓغ Ô×¾Ô Ù ×

À ÈÌ Ê ¾







ÁÒØÖÓ Ù
Ø ÓÒ
ÓÒÓÑ
Ò
ÓÒÓÑ ØÖ
ÑÓ Ð×




ÓÒÓÑ
Ø ÓÖÝ Ø ÐÐ× Ù× Ø Ø Ò Ò Ú Ù Ð³× Ñ Ò ÙÒ
Ø ÓÒ ÓÖ ÓÓ × ×ÓÑ Ø Ò



Ð



x = x(p, m, z)

• x × Ø ÕÙ ÒØ ØÝ Ñ Ò



• p × G × 1 Ú
ØÓÖ Ó ÔÖ
× Ó Ø ÓÓ Ò Ø× ×Ù ×Ø ØÙØ × Ò
ÓÑÔÐ Ñ ÒØ×



• m × Ò
ÓÑ

• z × Ú
ØÓÖ Ó ÓØ Ö Ú Ö Ð × ×Ù
× Ò Ú Ù Ð
Ö
Ø Ö ×Ø
× Ø Ø
Ø ÔÖ ¹



Ö Ò
×



ËÙÔÔÓ× Û Ú × ÑÔÐ
ÓÒ× ×Ø Ò Ó ÓÒ Ó × ÖÚ Ø ÓÒ ÓÒ n Ò Ú Ù Ð׳ Ñ Ò × Ø Ø Ñ



Ô Ö Ó t ´Ø × ×
ÖÓ×× ×
Ø ÓÒ ¸ Û Ö i = 1, 2, ..., n Ò Ü × Ø Ò Ú Ù Ð× Ò Ø × ÑÔÐ µº



Ì Ò Ú Ù Ð Ñ Ò ÙÒ
Ø ÓÒ× Ö





xi = xi (pi , mi , zi )



Ì ÑÓ Ð × ÒÓØ ×Ø Ñ Ð × Ø ×Ø Ò ×¸ × Ò




• Ì ÓÖÑ Ó Ø Ñ Ò ÙÒ
Ø ÓÒ × Ö ÒØ ÓÖ ÐÐ i.

• ËÓÑ
ÓÑÔÓÒ ÒØ× Ó zi Ñ Ý ÒÓØ Ó × ÖÚ Ð ØÓ Ò ÓÙØ× ÑÓ Ð Öº ÓÖ Ü ÑÔÐ ¸



Ô ÓÔÐ ÓÒ³Ø Ø Ø × Ñ ÐÙÒ
Ú ÖÝ Ý¸ Ò ÝÓÙ
Ò³Ø Ø ÐÐ Û Ø Ø Ý Û ÐÐ ÓÖ Ö



Ù×Ø Ý ÐÓÓ Ò Ø Ø Ñº ËÙÔÔÓ× Û
Ò Ö zi ÒØÓ Ø Ó × ÖÚ Ð
ÓÑÔÓÒ ÒØ×



wi Ò × Ò Ð ÙÒÓ × ÖÚ Ð
ÓÑÔÓÒ ÒØ εi º

×Ø Ô ØÓÛ Ö Ò ×Ø Ñ Ð
ÓÒÓÑ ØÖ
ÑÓ Ð × ØÓ ×ÙÔÔÓ× Ø ØØ ÑÓ ÐÑ Ý ÛÖ ØØ Ò



×

′

xi = β1 + p′ βp + mi βm + wi βw + εi

i



Ï Ú ÑÔÓ× ÒÙÑ Ö Ó Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø Ø ÓÖ Ø
Ð ÑÓ Ð



• Ì ÙÒ
Ø ÓÒ× xi (·) Û
Ò ÔÖ Ò
ÔÐ Ñ Ý Ö ÓÖ ÐÐ i Ú Ò Ö ×ØÖ
Ø ØÓ



ÐÐ ÐÓÒ ØÓ Ø × Ñ Ô Ö Ñ ØÖ
Ñ Ðݺ



• Ç ÐÐ Ô Ö Ñ ØÖ
Ñ Ð × Ó ÙÒ
Ø ÓÒ׸ Û Ú Ö ×ØÖ
Ø Ø ÑÓ Ð ØÓ Ø
Ð ××



Ó Ð Ò Ö Ò Ø Ú Ö Ð × ÙÒ
Ø ÓÒ׺



• Ì Ô Ö Ñ Ø Ö× Ö
ÓÒ×Ø ÒØ
ÖÓ×× Ò Ú Ù Ð׺



• Ì Ö × × Ò Ð ÙÒÓ × ÖÚ Ð
ÓÑÔÓÒ Òظ Ò Û ××ÙÑ Ø × Ø Ú º



Á Û ××ÙÑ ÒÓØ Ò ÓÙØ Ø ÖÖÓÖ Ø ÖÑ ǫ¸ Û
Ò ÐÛ Ý× ÛÖ Ø Ø Ð ×Ø ÕÙ Ø ÓÒº ÙØ Ò



ÓÖ Ö ÓÖ Ø β
Ó
ÒØ× ØÓ Ü ×Ø Ò × Ò× Ø Ø ×
ÓÒÓÑ
Ñ Ò Ò ¸ Ò Ò ÓÖ Ö ØÓ



Ð ØÓ Ù× × ÑÔÐ Ø ØÓ Ñ Ö Ð Ð Ò Ö Ò
× ÓÙØ Ø Ö Ú Ð٠׸ Û Ò ØÓ Ñ



Ø ÓÒ Ð ××ÙÑÔØ ÓÒ׺ Ì × Ø ÓÒ Ð ××ÙÑÔØ ÓÒ× Ú ÒÓ Ø ÓÖ Ø
Ð × ×¸ Ø Ý



Ö ××ÙÑÔØ ÓÒ× ÓÒ ØÓÔ Ó Ø Ó× Ò ØÓ ÔÖÓÚ Ø Ü ×Ø Ò
Ó Ñ Ò ÙÒ
Ø ÓÒº Ì



Ú Ð ØÝ Ó ÒÝ Ö ×ÙÐØ× Û Ó Ø Ò Ù× Ò Ø × ÑÓ Ð Û ÐÐ
ÓÒØ Ò ÒØ ÓÒ Ø × Ø ÓÒ Ð



Ö ×ØÖ
Ø ÓÒ× Ò Ø Ð ×Ø ÔÔÖÓÜ Ñ Ø ÐÝ
ÓÖÖ
غ ÓÖ Ø × Ö ×ÓÒ¸ ×Ô

Ø ÓÒ Ø ×Ø Ò Û ÐÐ



Ò ¸ ØÓ

Ø Ø Ø ÑÓ Ð × Ñ× ØÓ Ö ×ÓÒ Ð º ÇÒÐÝ Û Ò Û Ö
ÓÒÚ Ò




Ø Ø Ø ÑÓ Ð × Ø Ð ×Ø ÔÔÖÓÜ Ñ Ø ÐÝ
ÓÖÖ
Ø × ÓÙÐ Û Ù× Ø ÓÖ
ÓÒÓÑ
Ò ÐÝ× ×º



½

¾º ÁÆÌÊÇ Í ÌÁÇÆ ÇÆÇÅÁ Æ ÇÆÇÅ ÌÊÁ ÅÇ ÄË ½







Ï Ò Ø ×Ø Ò ÝÔÓØ × × Ù× Ò Ò
ÓÒÓÑ ØÖ
ÑÓ Ð¸ Ø Ð ×Ø Ø Ö
ØÓÖ×
Ò
Ù×



×Ø Ø ×Ø
Ð Ø ×Ø ØÓ Ö
Ø Ø ÒÙÐÐ ÝÔÓØ × ×



´½µ Ø ÝÔÓØ × × × Ð×



´¾µ ØÝÔ Á ÖÖÓÖ × Ó

ÙÖ



´¿µ Ø
ÓÒÓÑ ØÖ
ÑÓ Ð × ÒÓØ
ÓÖÖ
ØÐÝ ×Ô
×Ó Ø Ø ×Ø Ó × ÒÓØ Ú Ø



××ÙÑ ×ØÖ ÙØ ÓÒ



ÌÓ Ð ØÓ Ñ ×
ÒØ
ÔÖÓ Ö ×׸ Û ÛÓÙÐ Ð ØÓ Ò×ÙÖ Ø Ø Ø Ø Ö Ö ×ÓÒ ×



ÒÓØ
ÓÒØÖ ÙØ Ò Ò Ñ ÓÖ Û Ý ØÓ Ö
Ø ÓÒ׸ ×Ó Ø Ø Ö
Ø ÓÒ Û ÐÐ ÑÓ×Ø Ð ÐÝ Ù



ØÓ Ø Ö Ø Ö×Ø ÓÖ ×
ÓÒ Ö ×ÓÒ׺ ÀÓÔ ÙÐÐÝ Ø ÓÚ Ü ÑÔÐ Ñ × Ø
Ð Ö Ø Ø



Ø Ö Ö Ñ ÒÝ ÔÓ×× Ð ×ÓÙÖ
× Ó Ñ ××Ô

Ø ÓÒ Ó
ÓÒÓÑ ØÖ
ÑÓ Ð׺ ÁÒ Ø Ò ÜØ Û



×
Ø ÓÒ× Û Û ÐÐ Ó Ø Ò Ö ×ÙÐØ× ×ÙÔÔÓ× Ò Ø Ø Ø
ÓÒÓÑ ØÖ
ÑÓ Ð × ÒØ Ö ÐÝ
ÓÖÖ
ØÐÝ



×Ô
º Ä Ø Ö Û Û ÐÐ Ü Ñ Ò Ø
ÓÒ× ÕÙ Ò
× Ó Ñ ××Ô

Ø ÓÒ Ò × ×ÓÑ Ñ Ø Ó ×



ÓÖ Ø ÖÑ Ò Ò ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
º Ä Ø Ö ÓÒ¸
ÓÒÓÑ ØÖ
Ñ Ø Ó × Ø Ø ×



ØÓ Ñ Ò Ñ Þ Ñ ÒØ Ò ××ÙÑÔØ ÓÒ× Ö ÒØÖÓ Ù
º

À ÈÌ Ê ¿







ÇÖ Ò ÖÝ Ä ×Ø ËÕÙ Ö ×



½º Ì Ä Ò Ö ÅÓ Ð

ÓÒ× Ö ÔÔÖÓÜ Ñ Ø Ò Ú Ö Ð y Ù× Ò Ø Ú Ö Ð × x1 , x2 , ..., xk º Ï
Ò
ÓÒ× Ö



ÑÓ Ð Ø Ø × Ð Ò Ö ÔÔÖÓÜ Ñ Ø ÓÒ



Ä Ò Ö ØÝ Ø ÑÓ Ð × Ð Ò Ö ÙÒ
Ø ÓÒ Ó Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ β0 :

0 0 0

y = β1 x1 + β2 x2 + ... + βk xk + ǫ



ÓÖ¸ Ù× Ò Ú
ØÓÖ ÒÓØ Ø ÓÒ



y = x′ β 0 + ǫ

′

Ì Ô Ò ÒØ Ú Ö Ð y × ×
Ð Ö Ö Ò ÓÑ Ú Ö Ð ¸ x = ( x1 x2 · · · xk ) × k¹

Ú
ØÓÖ Ó ÜÔÐ Ò ØÓÖÝ Ú Ö Ð ×¸ Ò β0 =( 0

β1 0

β2 0 ′

· · · βk ) . Ì ×ÙÔ Ö×
Ö ÔØ ¼ Ò β0

Ñ Ò× Ø × × Ø ØÖÙ Ú ÐÙ Ó Ø ÙÒ ÒÓÛÒ Ô Ö Ñ Ø Öº ÁØ Û ÐÐ Ò ÑÓÖ ÔÖ
× ÐÝ



Ð Ø Ö¸ Ò Ù×Ù ÐÐÝ ×ÙÔÔÖ ×× Û Ò Ø³× ÒÓØ Ò
×× ÖÝ ÓÖ
Ð Ö Øݺ



ËÙÔÔÓ× Ø Ø Û Û ÒØ ØÓ Ù× Ø ØÓ ØÖÝ ØÓ Ø ÖÑ Ò Ø ×Ø Ð Ò Ö ÔÔÖÓÜ Ñ Ø ÓÒ



ØÓ y Ù× Ò Ø Ú Ö Ð × x. Ì Ø {(yt , xt )} , t = 1, 2, ..., n Ö Ó Ø Ò Ý ×ÓÑ ÓÖÑ Ó

½

× ÑÔÐ Ò º Ò Ò Ú Ù Ð Ó × ÖÚ Ø ÓÒ ×





yt = x′ β + εt

t



Ì n Ó × ÖÚ Ø ÓÒ×
Ò ÛÖ ØØ Ò Ò Ñ ØÖ Ü ÓÖÑ ×





´½µ y = Xβ + ε,

′ ′

Û Ö y= y1 y2 · · · yn × n×1 Ò X= x1 x2 · · · xn º



Ä Ò Ö ÑÓ Ð× Ö ÑÓÖ Ò Ö Ð Ø Ò Ø Ý Ñ Ø Ö×Ø ÔÔ Ö¸ × Ò
ÓÒ
Ò ÑÔÐÓÝ



ÒÓÒÐ Ò Ö ØÖ Ò× ÓÖÑ Ø ÓÒ× Ó Ø Ú Ö Ð ×





ϕ0 (z) = ϕ1 (w) ϕ2 (w) · · · ϕp (w) β+ε



Û Ö Ø φi () Ö ÒÓÛÒ ÙÒ
Ø ÓÒ׺ Ò Ò y = ϕ0 (z), x1 = ϕ1 (w), Ø
º Ð × ØÓ ÑÓ Ð



Ò Ø ÓÖÑ Ó ÕÙ Ø ÓÒ ¿º ÓÖ Ü ÑÔÐ ¸ Ø Ó ¹ ÓÙ Ð × ÑÓ Ð



β β

z = Aw2 2 w3 3 exp(ε)




Ò ØÖ Ò× ÓÖÑ ÐÓ Ö Ø Ñ
ÐÐÝ ØÓ Ó Ø Ò





ln z = ln A + β2 ln w2 + β3 ln w3 + ε.



Á Û Ò y = ln z, β1 = ln A, Ø
º¸ Û
Ò ÔÙØ Ø ÑÓ Ð Ò Ø ÓÖÑ Ò º Ì



ÔÔÖÓÜ Ñ Ø ÓÒ × Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö׸ ÙØ ÒÓØ Ò
×× Ö ÐÝ Ð Ò Ö Ò Ø Ú Ö Ð ×º









½

ÓÖ Ü ÑÔÐ ¸
ÖÓ××¹×
Ø ÓÒ Ð Ø Ñ Ý Ó Ø Ò Ý Ö Ò ÓÑ × ÑÔÐ Ò º Ì Ñ × Ö × Ø

ÙÑÙÐ Ø

×ØÓÖ
ÐÐݺ



½

¾º ËÌÁÅ ÌÁÇÆ Ä ËÌ ËÉÍ Ê Ë ½









ÙÖ ½º ÌÝÔ
Ð Ø ¸ Ð ××
Ð ÅÓ Ð

10

data

true regression line







5









0









-5









-10









-15

0 2 4 6 8 10 12 14 16 18 20

X









¾º ×Ø Ñ Ø ÓÒ Ý Ð ×Ø ×ÕÙ Ö ×

ÙÖ ½¸ Ó Ø Ò Ý ÖÙÒÒ Ò ÌÝÔ
Ð Ø ºÑ × ÓÛ× ×ÓÑ Ø Ø Ø ÓÐÐÓÛ× Ø Ð Ò Ö



ÑÓ Ð yt = β1 + β2 xt2 + ǫt º Ì Ö Ò Ð Ò × Ø ØÖÙ Ö Ö ×× ÓÒ Ð Ò β1 + β2 xt2 ¸ Ò



Ø Ö
ÖÓ×× × Ö Ø Ø ÔÓ ÒØ× (xt2 , yt ), Û Ö ǫt × Ö Ò ÓÑ ÖÖÓÖ Ø Ø × Ñ Ò Þ ÖÓ



Ò × Ò Ô Ò ÒØ Ó xt2 º Ü
ØÐÝ ÓÛ Ø Ö Ò Ð Ò × Ò Û ÐÐ
ÓÑ
Ð Ö Ð Ø Öº



ÁÒ ÔÖ
Ø
¸ Û ÓÒÐÝ Ú Ø Ø ¸ Ò Û ÓÒ³Ø ÒÓÛ Û Ö Ø Ö Ò Ð Ò Ð ×º Ï Ò



ØÓ Ò Ò ÓÖÑ Ø ÓÒ ÓÙØ Ø ×ØÖ Ø Ð Ò Ø Ø ×Ø Ø× Ø Ø ÔÓ ÒØ׺



Ì ÓÖ Ò ÖÝ Ð ×Ø ×ÕÙ Ö × ´ÇÄ˵ ×Ø Ñ ØÓÖ × Ò × Ø Ú ÐÙ Ø Ø Ñ Ò Ñ Þ × Ø



×ÙÑ Ó Ø ×ÕÙ Ö ÖÖÓÖ×



ˆ

β = arg min s(β)



Û Ö





n

2

s(β) = yt − x′ β

t

t=1

= (y − Xβ)′ (y − Xβ)

= y′ y − 2y′ Xβ + β ′ X′ Xβ

2

= y − Xβ



Ì × Ð ×Ø ÜÔÖ ×× ÓÒ Ñ × Ø
Ð Ö ÓÛ Ø ÇÄË ×Ø Ñ ØÓÖ × Ò Ø Ñ Ò Ñ Þ × Ø



Ù
Ð Ò ×Ø Ò
ØÛ Ò y ÒXβ. Ì ØØ ÇÄË
Ó
ÒØ× Ö Ø Ó× Ø Ø Ú Ø



×Ø Ð Ò Ö ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ y Ù× Ò x × × × ÙÒ
Ø ÓÒ׸ Û Ö ×Ø Ñ Ò× Ñ Ò ÑÙÑ



Ù
Ð Ò ×Ø Ò
º ÇÒ
ÓÙÐ Ø Ò Ó ÓØ Ö ×Ø Ñ ØÓÖ× × ÙÔÓÒ ÓØ Ö Ñ ØÖ
׺ ÓÖ



Ü ÑÔÐ ¸ Ø Ñ Ò ÑÙÑ ×ÓÐÙØ ×Ø Ò
´Å µ Ñ Ò Ñ Þ ×

n

t=1 |yt − x′ β|º

t Ä Ø Ö¸ Û



Û ÐÐ × Ø Ø Û
×Ø Ñ ØÓÖ × ×Ø Ò Ø ÖÑ× Ó Ø Ö ×Ø Ø ×Ø
Ð ÔÖÓÔ ÖØ ×¸ Ö Ø Ö Ø Ò Ò



Ø ÖÑ× Ó Ø Ñ ØÖ
× Ø Ø Ò Ø Ñ¸ Ô Ò × ÙÔÓÒ Ø ÔÖÓÔ ÖØ × Ó ǫ¸ ÓÙØ Û
Û



Ú × Ý Ø Ñ ÒÓ ××ÙÑÔØ ÓÒ׺

¿º ÇÅ ÌÊÁ ÁÆÌ ÊÈÊ Ì ÌÁÇÆ Ç Ä ËÌ ËÉÍ Ê Ë ËÌÁÅ ÌÁÇÆ ¾¼







• ÌÓ Ñ Ò Ñ Þ Ø
Ö Ø Ö ÓÒ s(β), Ò Ø Ö Ú Ø Ú Û Ø Ö ×Ô
Ø ØÓ β Ò × Ø Ø ØÓ



Þ ÖÓ





Dβ s(β) = −2X′ y + 2X′ Xβ

ˆ ˆ

Dβ s(β) = −2X′ y + 2X′ Xβ ≡ 0



×Ó

ˆ

β = (X′ X)−1 X′ y.

• ÌÓ Ú Ö Ý Ø Ø Ø × × Ñ Ò ÑÙѸ

Ø ×
ÓÒ ÓÖ Ö ×Ù
ÒØ
ÓÒ Ø ÓÒ



2 ˆ

Dβ s(β) = 2X′ X



Ë Ò
ρ(X) = K, Ø × Ñ ØÖ Ü × ÔÓ× Ø Ú Ò Ø ¸ × Ò
Ø³× ÕÙ Ö Ø
ÓÖÑ Ò



Ôº º Ñ ØÖ Ü ´ ÒØ ØÝ Ñ ØÖ Ü Ó ÓÖ n)¸ Ö ×Ó ˆ

β × Ò
Ø Ñ Ò Ñ Þ Öº



• Ì ØØ Ú ÐÙ × Ö Ø ˆ ˆ

Ú
ØÓÖ y = Xβ.



• Ì Ö × Ù Ð× Ö Ø Ú ˆ


ØÓÖ ε = y − Xβˆ

• ÆÓØ Ø Ø





y = Xβ + ε

ˆ ˆ

= Xβ + ε



• Ð×Ó¸ Ø Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ×
Ò ÛÖ ØØ Ò ×



ˆ

X′ y − X′ Xβ = 0

ˆ

X′ y − X β = 0

X′ ε = 0

ˆ



Û
× ØÓ × Ý¸ Ø ÇÄË Ö × Ù Ð× Ö ÓÖØ Ó ÓÒ Ð ØÓ Xº Ä Ø³× ÐÓÓ Ø Ø × ÑÓÖ




Ö ÙÐÐݺ









¿º ÓÑ ØÖ
ÒØ ÖÔÖ Ø Ø ÓÒ Ó Ð ×Ø ×ÕÙ Ö × ×Ø Ñ Ø ÓÒ

¿º½º ÁÒ X, Y ËÔ
º ÙÖ ¾ × ÓÛ× ØÝÔ
Ð Ø ØÓ Ø ¸ ÐÓÒ Û Ø Ø ØÖÙ Ö Ö ×× ÓÒ



Ð Ò º ÆÓØ Ø Ø Ø ØÖÙ Ð Ò Ò Ø ×Ø Ñ Ø Ð Ò Ö Ö Òغ Ì × ÙÖ Û ×
Ö Ø Ý



ÖÙÒÒ Ò Ø Ç
Ø Ú ÔÖÓ Ö Ñ ÇÐ× ØºÑ º ÓÙ
Ò ÜÔ Ö Ñ ÒØ Û Ø
Ò Ò Ø Ô Ö Ñ Ø Ö



Ú ÐÙ × ØÓ × ÓÛ Ø ×
Ø× Ø Ø¸ Ò ØÓ × ÓÛ Ø ØØ Ð Ò Û ÐÐ ×ÓÑ Ø Ñ ×
ÐÓ×



ØÓ Ø ØÖÙ Ð Ò ¸ Ò ×ÓÑ Ø Ñ × Ö Ø Ö Ö Û Ýº









¿º¾º ÁÒ Ç × ÖÚ Ø ÓÒ ËÔ
º Á Û Û ÒØ ØÓ ÔÐÓØ Ò Ó × ÖÚ Ø ÓÒ ×Ô
¸ Û ³ÐÐ Ò ØÓ



Ù× ÓÒÐÝ ØÛÓ ÓÖ Ø Ö Ó × ÖÚ Ø ÓÒ׸ ÓÖ Û ³ÐÐ Ò
ÓÙÒØ Ö ×ÓÑ Ð Ñ Ø Ø ÓÒ× Ó Ø Ð
Ó Ö º



Á Û ØÖÝ ØÓ Ù× ¿¸ Û ³ÐÐ Ò
ÓÙÒØ Ö Ø Ð Ñ Ø× Ó ÑÝ ÖØ ×Ø
Ð Øݸ ×Ó Ð Ø³× Ù× ØÛÓº Ï Ø



ÓÒÐÝ ØÛÓ Ó × ÖÚ Ø ÓÒ׸ Û
Ò³Ø Ú K > 1.

• Ï
Ò
ÓÑÔÓ× y ÒØÓ ØÛÓ
ÓÑÔÓÒ ÒØ× Ø ÓÖØ Ó ÓÒ Ð ÔÖÓ
Ø ÓÒ ÓÒØÓ Ø



K− Ñ Ò× ÓÒ Ð ×Ô
×Ô ÒÒ Ý ˆ

X ¸ X β, Ò Ø
ÓÑÔÓÒ ÒØ Ø Ø × Ø ÓÖØ Ó ¹



ÓÒ Ð ÔÖÓ
Ø ÓÒ ÓÒØÓ Ø n−K ×Ù Ô
Ø Ø × ÓÖØ Ó ÓÒ Ð ØÓ Ø ×Ô Ò Ó X,

ˆ

ε.

• Ë Ò
ˆ

β ×
Ó× Ò ØÓ Ñ ε

ˆ × × ÓÖØ × ÔÓ×× Ð ¸ ε Û ÐÐ

ˆ ÓÖØ Ó ÓÒ Ð ØÓ Ø ×Ô




×Ô ÒÒ Ý X. Ë Ò
X × Ò Ø

′ˆ

× ×Ô
¸ X ε = 0. ÆÓØ Ø Ø Ø ºÓº
º Ø Ø Ò



Ø Ð ×Ø ×ÕÙ Ö × ×Ø Ñ ØÓÖ ÑÔÐÝ Ø Ø Ø × × ×Óº

¿º ÇÅ ÌÊÁ ÁÆÌ ÊÈÊ Ì ÌÁÇÆ Ç Ä ËÌ ËÉÍ Ê Ë ËÌÁÅ ÌÁÇÆ ¾½









ÙÖ ¾º Ü ÑÔÐ ÇÄË Ø

15

data points

fitted line

true line



10









5









0









-5









-10









-15

0 2 4 6 8 10 12 14 16 18 20

X









ÙÖ ¿º Ì Ø Ò Ó × ÖÚ Ø ÓÒ ×Ô










Observation 2









y







e = M_xY S(x)









x



x*beta=P_xY









Observation 1









¿º¿º ÈÖÓ
Ø ÓÒ Å ØÖ
׺ X β

ˆ × Ø ÔÖÓ
Ø ÓÒ Ó y ÓÒØÓ Ø ×Ô Ò Ó X, ÓÖ



ˆ −1

X β = X X ′X X ′y



Ì Ö ÓÖ ¸ Ø Ñ ØÖ Ü Ø Ø ÔÖÓ
Ø× y ÓÒØÓ Ø ×Ô Ò Ó X ×





PX = X(X ′ X)−1 X ′



× Ò


ˆ

X β = PX y.

º ÁÆ ÄÍ ÆÌÁ Ä Ç Ë ÊÎ ÌÁÇÆË Æ ÇÍÌÄÁ ÊË ¾¾







ˆ

ε × Ø ÔÖÓ
Ø ÓÒ Ó y ÓÒØÓ Ø N −K Ñ Ò× ÓÒ Ð ×Ô
Ø Ø × ÓÖØ Ó ÓÒ Ð ØÓ Ø ×Ô Ò



Ó Xº Ï Ú Ø Ø





ˆ ˆ

ε = y − Xβ

= y − X(X ′ X)−1 X ′ y

= In − X(X ′ X)−1 X ′ y.



ËÓ Ø Ñ ØÖ Ü Ø Ø ÔÖÓ
Ø× y ÓÒØÓ Ø ×Ô
ÓÖØ Ó ÓÒ Ð ØÓ Ø ×Ô Ò Ó X ×





MX = In − X(X ′ X)−1 X ′

= In − PX .



Ï Ú



ˆ

ε = MX y.

Ì Ö ÓÖ





y = PX y + MX y

ˆ ˆ

= X β + ε.



Ì × ØÛÓ ÔÖÓ
Ø ÓÒ Ñ ØÖ
×
ÓÑÔÓ× Ø n Ñ Ò× ÓÒ Ð Ú
ØÓÖ y ÒØÓ ØÛÓ ÓÖØ Ó ÓÒ Ð




ÓÑÔÓÒ ÒØ× ¹ Ø ÔÓÖØ ÓÒ Ø Ø Ð × Ò Ø K Ñ Ò× ÓÒ Ð ×Ô
Ò Ý X, Ò Ø



ÔÓÖØ ÓÒ Ø Ø Ð × Ò Ø ÓÖØ Ó ÓÒ Ð n−K Ñ Ò× ÓÒ Ð ×Ô
º



• ÆÓØ Ø Ø ÓØ MX Ö ×ÝÑÑ ØÖ
Ò

PX Ò ÑÔÓØ Òغ

×ÝÑÑ ØÖ
Ñ ØÖ Ü A × ÓÒ ×Ù
Ø

′

Ø A = A.



Ò ÑÔÓØ ÒØ Ñ ØÖ Ü A × ÓÒ ×Ù
Ø Ø A = AA.



Ì ÓÒÐÝ ÒÓÒ× Ò ÙÐ Ö ÑÔÓØ ÒØ Ñ ØÖ Ü × Ø ÒØ ØÝ Ñ ØÖ Üº







º ÁÒ Ù ÒØ Ð Ó × ÖÚ Ø ÓÒ× Ò ÓÙØÐ Ö×

Ì ÇÄË ×Ø Ñ ØÓÖ Ó Ø ith Ð Ñ ÒØ Ó Ø Ú
ØÓÖ β0 × × ÑÔÐÝ



ˆ

βi = (X ′ X)−1 X ′ y

i·

= c′ y

i



Ì × × ÓÛ Û Ò Ð Ò Ö ×Ø Ñ ØÓÖ ¹ Ø³× Ð Ò Ö ÙÒ
Ø ÓÒ Ó Ø Ô Ò ÒØ Ú Ö Ð º



Ë Ò
Ø³× Ð Ò Ö
ÓÑ Ò Ø ÓÒ Ó Ø Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ô Ò ÒØ Ú Ö Ð ¸ Û Ö Ø



Û Ø× Ö Ø ÖÑ Ò Ý Ø Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ö Ö ××ÓÖ׸ ×ÓÑ Ó × ÖÚ Ø ÓÒ× Ñ Ý Ú



ÑÓÖ Ò Ù Ò
Ø Ò ÓØ Ö׺



ÌÓ ÒÚ ×Ø Ø Ø ×¸ Ð Ø et Ò n Ú
ØÓÖ Ó Þ ÖÓ× Û Ø 1 Ò Ø Ø

th ÔÓ× Ø ÓÒ¸ º º¸ س×



Ø tØ
ÓÐÙÑÒ Ó Ø Ñ ØÖ Ü In º Ò





ht = (PX )tt

= e′ PX et

t



×Ó ht × Ø Ø

th Ð Ñ ÒØ ÓÒ Ø Ñ Ò ÓÒ Ð Ó PX º ÆÓØ Ø Ø



2

ht = PX et



×Ó

2

ht ≤ et =1

ËÓ 0 s, ft (yt |y1 , ..., yt−1 , θ) ×




ÓÒ Ø ÓÒ ÓÒ ÔÖ ÓÖ Ò ÓÖÑ Ø ÓÒ¸ ×Ó Û Ø Û × Ö Ò ÓÑ Ò s × Ü Ò tº ´Ì × ÓÖÑ× Ø



× × ÓÖ ×Ô

Ø ÓÒ Ø ×Ø ÔÖÓÔÓ× Ý Ï Ø Ø ×
ÓÖ × ÔÔ Ö ØÓ
ÓÖÖ Ð Ø ÓÒ



Ñ Ý ÕÙ ×Ø ÓÒ Ø ×Ô

Ø ÓÒ Ó Ø ÑÓ Ðµº Ì × ÐÐÓÛ× Ù× ØÓ ÛÖ Ø





Eθ [H(θ)] = −Eθ n [g(θ)] [g(θ)]′



× Ò
ÐÐ
ÖÓ×× ÔÖÓ Ù
Ø× ØÛ Ò Ö ÒØ Ô Ö Ó × ÜÔ
Ø ØÓ Þ ÖÓº Ò ÐÐÝ Ø Ð Ñ Ø׸ Û



Ø





´½ µ H∞ (θ) = −I∞ (θ).



Ì × ÓÐ × ÓÖ ÐÐ θ, Ò Ô ÖØ
ÙÐ Ö¸ ÓÖ θ0 . Í× Ò Ø ×¸

√ a.s.

ˆ

n θ − θ0 → N 0, H∞ (θ0 )−1 I∞ (θ0 )H∞ (θ0 )−1



× ÑÔÐ × ØÓ

√ a.s.

´½ µ ˆ

n θ − θ0 → N 0, I∞ (θ0 )−1



ÌÓ ×Ø Ñ Ø Ø ×ÝÑÔØÓØ
Ú Ö Ò
¸ Û Ò ×Ø Ñ ØÓÖ× Ó H∞ (θ0 ) Ò I∞ (θ0 )º Ï
Ò



Ù×

n

I∞ (θ0 ) = n ˆ ˆ

gt (θ)gt (θ)′

t=1

ˆ

H∞ (θ0 ) = H(θ).



ÆÓØ ¸ ÓÒ
Ò³Ø Ù×

′

ˆ

I∞ (θ0 ) = n gn (θ) ˆ

gn (θ)

ØÓ ×Ø Ñ Ø Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Üº Ï Ý ÒÓØ

º ÌÀ Ê Å Ê¹Ê Ç ÄÇÏ Ê ÇÍÆ ¿







ÖÓÑ Ø × Û × Ø Ø Ø Ö Ö ÐØ ÖÒ Ø Ú Û Ý× ØÓ ×Ø Ñ Ø V∞ (θ0 ) Ø Ø Ö ÐÐ Ú Ð º



Ì × Ò
ÐÙ

−1

V∞ (θ0 ) = −H∞ (θ0 )

−1

V∞ (θ0 ) = I∞ (θ0 )

−1 −1

V∞ (θ0 ) = H∞ (θ0 ) I∞ (θ0 )H∞ (θ0 )



Ì × Ö ÒÓÛÒ ×Ø ÒÚ Ö× À ×× Ò¸ ÓÙØ Ö ÔÖÓ Ù
Ø Ó Ø Ö ÒØ ´ÇÈ µ Ò × Ò Û


×Ø Ñ ØÓÖ׸ Ö ×Ô
Ø Ú Ðݺ Ì × Ò Û
ÓÖÑ × Ø ÑÓ×Ø ÖÓ Ù×ظ × Ò
Ø
Ó Ò
× Û Ø Ø




ÓÚ Ö Ò
×Ø Ñ ØÓÖ Ó Ø ÕÙ × ¹ÅÄ ×Ø Ñ ØÓÖº









º Ì Ö Ñ Ö¹Ê Ó ÐÓÛ Ö ÓÙÒ

Ì ÓÖ Ñ ¿º Ö Ñ Ö¹Ê Ó ÄÓÛ Ö ÓÙÒ ℄ Ì Ð Ñ Ø Ò Ú Ö Ò
Ó Æ ×Ø Ñ ØÓÖ



Ó θ0 ¸ × Ý ˜

θ¸ Ñ ÒÙ× Ø ÒÚ Ö× Ó Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü × ÔÓ× Ø Ú × Ñ Ò Ø Ñ ØÖ Üº





ÈÖÓÓ Ë Ò
Ø ×Ø Ñ ØÓÖ × Æ¸ Ø × ×ÝÑÔØÓØ
ÐÐÝ ÙÒ × ¸ ×Ó



˜

lim Eθ (θ − θ) = 0

n→∞



Ö ÒØ Ø ÛÖØ θ′ :

˜

Dθ′ lim Eθ (θ − θ) = lim ˜

Dθ′ f (Y, θ) θ − θ dy

n→∞ n→∞

= 0 (Ø × × K ×K Ñ ØÖ Ü Ó Þ ÖÓ×).





ÆÓØ Ò Ø Ø Dθ′ f (Y, θ) = f (θ)Dθ′ ln f (θ), Û
Ò ÛÖ Ø





lim ˜

θ − θ f (θ)Dθ′ ln f (θ)dy + lim ˜

f (Y, θ)Dθ′ θ − θ dy = 0.

n→∞ n→∞



ÆÓÛ ÒÓØ Ø Ø ˜

Dθ′ θ − θ = −IK , Ò f (Y, θ)(−IK )dy = −IK . Ï Ø Ø × Û Ú







lim ˜

θ − θ f (θ)Dθ′ ln f (θ)dy = IK .

n→∞



ÈÐ Ý Ò Û Ø ÔÓÛ Ö× Ó n Û Ø



√ √ 1

lim ˜

n θ−θ n [Dθ′ ln f (θ)] f (θ)dy = IK

n→∞ n



ÆÓØ Ø Ø Ø Ö
Ø Ô ÖØ × Ù×Ø Ø ØÖ Ò×ÔÓ× Ó Ø ×
ÓÖ Ú
ØÓÖ¸ g(θ), ×Ó Û
Ò ÛÖ Ø



√ √

lim Eθ ˜

n θ−θ ng(θ)′ = IK

n→∞

√ ˜ ˜

Ì × Ñ Ò× Ø Ø Ø
ÓÚ Ö Ò
Ó Ø ×
ÓÖ ÙÒ
Ø ÓÒ Û Ø n θ − θ , ÓÖ θ ÒÝ Æ

√ ˜

×Ø Ñ ØÓÖ¸ × Ò ÒØ ØÝ Ñ ØÖ Üº Í× Ò Ø ×¸ ×ÙÔÔÓ× Ø Ú Ö Ò
Ó n θ−θ Ø Ò × ØÓ



˜

V∞ (θ). Ì Ö ÓÖ ¸



√ ˜ ˜

n θ−θ V∞ (θ) IK

´½ µ V∞ √ = .

ng(θ) IK I∞ (θ)



Ë Ò
Ø × ×
ÓÚ Ö Ò
Ñ ØÖ Ü¸ Ø × ÔÓ× Ø Ú × Ñ ¹ Ò Ø º Ì Ö ÓÖ ¸ ÓÖ ÒÝ K ¹Ú
ØÓÖ



α,

˜

V∞ (θ) IK α

−1

α′ −α′ I∞ (θ) ≥ 0.

IK I∞ (θ) −I∞ (θ)−1 α

Ê ÁË Ë







Ì × × ÑÔÐ × ØÓ

˜ −1

α′ V∞ (θ) − I∞ (θ) α ≥ 0.

Ë Ò
α × Ö ØÖ Öݸ ˜ −1

V∞ (θ) − I∞ (θ) × ÔÓ× Ø Ú × Ñ Ò Ø º Ì ×
ÓÒÐÙ × Ø ÔÖÓÓ º



Ì × Ñ Ò× Ø

−1 (θ) ×

Ø I∞ ÐÓÛ Ö ÓÙÒ ÓÖ Ø ×ÝÑÔØÓØ
Ú Ö Ò
Ó Æ ×Ø ¹



Ñ ØÓÖº



Ò Ø ÓÒ º½º ´ ×ÝÑÔØÓØ

Ò
Ý µ Ú Ò ØÛÓ Æ ×Ø Ñ ØÓÖ× Ó Ô Ö Ñ Ø Ö



θ0 ¸ × ˜

Ý θ Ò ˆ ˆ

θ¸ θ × ×ÝÑÔØÓØ
ÐÐÝ
ÒØ Û Ø Ö ×Ô ˜


Ø ØÓ θ ˜ ˆ

V∞ (θ) − V∞ (θ) × ÔÓ× Ø Ú



× Ñ Ò Ø Ñ ØÖ Üº



Ö
Ø ÔÖÓÓ Ó ×ÝÑÔØÓØ

Ò
Ý Ó Ò ×Ø Ñ ØÓÖ × Ò × Ð ¸ ÙØ ÓÒ
Ò × ÓÛ



Ø Ø Ø ×ÝÑÔØÓØ
Ú Ö Ò
× ÕÙ Ð ØÓ Ø ÒÚ Ö× Ó Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü¸ Ø Ò Ø



×Ø Ñ ØÓÖ × ×ÝÑÔØÓØ
ÐÐÝ
Òغ ÁÒ Ô ÖØ
ÙÐ Ö¸ Ø ÅÄ × ×ÝÑÔØÓØ
ÐÐÝ
ÒØ Û Ø

Ö ×Ô
Ø ØÓ ÒÝ ÓØ Ö Æ ×Ø Ñ ØÓÖº

ËÙÑÑ ÖÝ Ó ÅÄ

• ÓÒ× ×Ø ÒØ



• ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ Ð ´ Ƶ



• ×ÝÑÔØÓØ
ÐÐÝ
ÒØ



• ×ÝÑÔØÓØ
ÐÐÝ ÙÒ ×



• Ì × × ÓÖ Ò Ö Ð ÅÄ Û Ú Ò³Ø ×Ô
Ø ×ØÖ ÙØ ÓÒ ÓÖ Ø Ð Ò Ö ØÝ»ÒÓÒ¹



Ð Ò Ö ØÝ Ó Ø ×Ø Ñ ØÓÖ





º Ü Ö
× ×

Ü Ö
× ×

´½µ ÓÒ× Ö
Ó Ò ØÓ×× Ò Û Ø × Ò Ð ÔÓ×× ÐÝ ×
Ó Òº Ì Ò× ØÝ ÙÒ
Ø ÓÒ ÓÖ Ø



Ö Ò ÓÑ Ú Ö Ð y = 1(heads) ×





fY (y, p0 ) = py (1 − p0 )1−y , y ∈ {0, 1}

0



/

= 0, y ∈ {0, 1}



ËÙÔÔÓ× Ø Ø Û Ú × ÑÔÐ Ó × Þ nº Ï ÒÓÛ ÖÓÑ ÓÚ Ø Ø Ø ÅÄ ×Ø Ñ ØÓÖ



× ¯

p0 = y º Ï Ð×Ó ÒÓÛ ÖÓÑ Ø Ø ÓÖÝ ÓÚ Ø Ø

√ a

n (¯ − p0 ) ∼ N 0, H∞ (p0 )−1 I∞ (p0 )H∞ (p0 )−1

y



µ Ò Ø Ò ÐÝØ
ÜÔÖ ×× ÓÒ ÓÖ gt (θ) Ò × ÓÛ Ø Ø Eθ [gt (θ)] = 0



µ Ò Ø Ò ÐÝØ
Ð ÜÔÖ ×× ÓÒ× ÓÖ H∞ (p0 ) Ò I∞ (p0 ) ÓÖ Ø × ÔÖÓ Ð Ñ

√


µ Ú Ö Ý Ø Ø Ø Ö ×ÙÐØ ÓÖ lim V ar n (ˆ − p) ÓÙÒ Ò ×
Ø ÓÒ º½ × ÕÙ Ð ØÓ H∞ (p0 )−1 I∞ (p0 )H∞ (p0 )−1

p

√

µ ÏÖ Ø Ò Ç
Ø Ú ÔÖÓ Ö Ñ Ø Ø Ó × ÅÓÒØ ÖÐÓ ×ØÙ Ý Ø Ø × ÓÛ× Ø Ø y

n (¯ − p0 )

× ÔÔÖÓÜ Ñ Ø ÐÝ ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ Û Ò n × Ð Ö º ÈÐ × Ú Ñ ×ØÓ Ö Ñ× Ø Ø

√

× ÓÛ Ø × ÑÔÐ Ò Ö ÕÙ Ò
Ý Ó y

n (¯ − p0 ) ÓÖ × Ú Ö Ð Ú ÐÙ × Ó nº

´¾µ ÓÒ× Ö Ø ÑÓ Ð yt = x′ β + αǫt Û

t Ö Ø ÖÖÓÖ× ÓÐÐÓÛ Ø Ù
Ý ´ËØÙ ÒØ¹Ø Û Ø



½ Ö Ó Ö Óѵ Ò× Øݺ ËÓ



1

f (ǫt ) = , −∞ LR > LM.



ÓÖ Ø × Ö ×ÓÒ¸ Ø Ï Ð Ø ×Ø Û ÐÐ ÐÛ Ý× Ö
Ø Ø ÄÊ Ø ×Ø Ö
Ø׸ Ò Ò ØÙÖÒ Ø ÄÊ



Ø ×Ø Ö
Ø× Ø ÄÅ Ø ×Ø Ö
Ø׺ Ì × × Ø ÔÖÓ Ð Ñ Ø
Ø Ö × Ø ÔÓ×× Ð ØÝ Ø Ø Ý




Ö ÙÐ
Ó
Ó Ø ×Ø Ø ×Ø
Ù× ¸ ÓÒ
Ò Ñ Ò ÔÙÐ Ø Ö ÔÓÖØ Ö ×ÙÐØ× ØÓ ÚÓÖ ÓÖ × ÚÓÖ



ÝÔÓØ × ×º
ÓÒ× ÖÚ Ø Ú » ÓÒ ×Ø ÔÔÖÓ
ÛÓÙÐ ØÓ Ö ÔÓÖØ ÐÐ Ø Ö Ø ×Ø ×Ø Ø ×Ø
×



Û Ò Ø Ý Ö Ú Ð Ð º ÁÒ Ø
× Ó Ð Ò Ö ÑÓ Ð× Û Ø ÒÓÖÑ Ð ÖÖÓÖ× Ø F Ø ×Ø × ØÓ



ÔÖ ÖÖ ¸ × Ò
×ÝÑÔØÓØ
ÔÔÖÓÜ Ñ Ø ÓÒ× Ö ÒÓØ Ò ××Ù º



Ì ×Ñ ÐÐ × ÑÔÐ Ú ÓÖ Ó Ø Ø ×Ø×
Ò ÕÙ Ø Ö Òغ Ì ØÖÙ × Þ ´ÔÖÓ Ð ØÝ



Ó Ö
Ø ÓÒ Ó Ø ÒÙÐÐ Û Ò Ø ÒÙÐÐ × ØÖÙ µ Ó Ø Ï Ð Ø ×Ø × Ó Ø Ò Ö Ñ Ø
ÐÐÝ Ö



Ø Ò Ø ÒÓÑ Ò Ð × Þ ××Ó
Ø Û Ø Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒº Ä Û × ¸ Ø ØÖÙ × Þ



Ó Ø ×
ÓÖ Ø ×Ø × Ó Ø Ò ×Ñ ÐÐ Ö Ø Ò Ø ÒÓÑ Ò Ð × Þ º





º ÁÒØ ÖÔÖ Ø Ø ÓÒ Ó Ø ×Ø ×Ø Ø ×Ø
×

ÆÓÛ Ø Ø Û Ú Ñ ÒÙ Ó Ø ×Ø ×Ø Ø ×Ø
׸ Û Ò ØÓ ÒÓÛ ÓÛ ØÓ Ù× Ø Ñº





º ÓÒ Ò
ÒØ ÖÚ Ð×

ÓÒ Ò
ÒØ ÖÚ Ð× ÓÖ × Ò Ð
Ó
ÒØ× Ö Ò Ö Ø Ò Ø ÒÓÖÑ Ð Ñ ÒÒ Öº Ú Ò



Ø t ×Ø Ø ×Ø


ˆ

β−β

t(β) =

σβ

ˆ



100 (1 − α) %
ÓÒ Ò
ÒØ ÖÚ Ð ÓÖ β0 × Ò Ý Ø ÓÙÒ × Ó Ø × Ø Ó β ×Ù
Ø Ø



t(β) Ó × ÒÓØ Ö
Ø H0 : β0 = β, Ù× Ò α × Ò
Ò
Ð Ú Ð



ˆ

β−β

C(α) = {β : −cα/2 β ′ β + λmax(X ′ X −1 ) σ 2 ´Ø ÒÚ ÐÙ × Ö ÐÐ ÔÓ× Ø Ú ¸ × Ò
X ′X × Ôº º





×Ó



ˆˆ σ2

E(β ′ β) > β ′ β +

λmin(X ′ X)

Û Ö λmin(X ′ X) × Ø Ñ Ò ÑÙÑ ′

ÒÚ ÐÙ Ó X X ´Û
× Ø ÒÚ Ö× Ó Ø Ñ Ü ÑÙÑ



ÒÚ ÐÙ Ó (X

′ X)−1 ). ×
ÓÐÐ Ò Ö ØÝ
ÓÑ × ÛÓÖ× Ò ÛÓÖ× ¸ X

′X
ÓÑ × ÑÓÖ



Ò ÖÐÝ × Ò ÙÐ Ö¸ ×Ó λmin(X ′ X) Ø Ò × ØÓ Þ ÖÓ ´Ö
ÐÐ Ø Ø Ø Ø ÖÑ Ò ÒØ × Ø ÔÖÓ Ù
Ø Ó



Ø ÒÚ ÐÙ ×µ Ò E(β ˆ

ˆ′ β) Ø Ò × ØÓ Ò Ò Ø º ÇÒ Ø ÓØ Ö Ò ¸ β ′ β × Ò Ø º

ÆÓÛ
ÓÒ× Ö Ò Ø Ö ×ØÖ
Ø ÓÒ IK β = 0 + v. Ï Ø Ø × Ö ×ØÖ
Ø ÓÒ Ø ÑÓ Ð
ÓÑ ×



y X ε

= β+

0 kIK kv

Ò Ø ×Ø Ñ ØÓÖ ×

−1

ˆ X y

βridge = X′ kIK X ′ IK

kIK 0

−1

= X ′ X + k2 IK X ′y



Ì × × Ø ÓÖ Ò ÖÝ Ö Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖº Ì Ö Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ
Ò × Ò



ØÓ k2 IK , Û


′

× ÒÓÒ× Ò ÙÐ Ö¸ ØÓ X X, Û
× ÑÓÖ Ò ÑÓÖ Ò ÖÐÝ × Ò ÙÐ Ö ×




ÓÐÐ Ò Ö ØÝ
ÓÑ × ÛÓÖ× Ò ÛÓÖ× º × k → ∞, Ø Ö ×ØÖ
Ø ÓÒ× Ø Ò ØÓ β = 0, Ø Ø ×¸

¾º Å ËÍÊ Å ÆÌ ÊÊÇÊ ½¼½







Ø
Ó
ÒØ× Ö × ÖÙÒ Ò ØÓÛ Ö Þ ÖÓº Ð×Ó¸ Ø ×Ø Ñ ØÓÖ Ø Ò × ØÓ





ˆ −1 −1 X ′y

βridge = X ′ X + k2 IK X ′ y → k2 IK X ′y = →0

k2

×Ó ˆ′ ˆ

βridge βridge → 0. Ì × ×
Ð ÖÐÝ Ð× Ö ×ØÖ
Ø ÓÒ Ò Ø Ð Ñ Ø¸ ÓÙÖ ÓÖ Ò Ð ÑÓ Ð ×



Ø Ð × Ò× Ð º



Ì Ö × ÓÙÐ ×ÓÑ ÑÓÙÒØ Ó × Ö Ò Ø Ø × Ò
Ø ØÖÙ Ö ×ØÖ
Ø ÓÒº Ì ÔÖÓ ¹



Ð Ñ × ØÓ Ø ÖÑ Ò Ø k ×Ù
Ø ØØ Ö ×ØÖ
Ø ÓÒ ×
ÓÖÖ
غ Ì ÒØ Ö ×Ø Ò Ö Ö Ö ×× ÓÒ




ÒØ Ö× ÓÒ Ø
Ø Ø Ø Ø
Ò × ÓÛÒ Ø Ø Ø Ö Ü ×Ø× k ×Ù
Ø Ø ˆ

M SE(βridge ) 0 ØÓ ×Ø Ñ Ø º ÙÖ ¿



ÐÐÙ×ØÖ Ø × Ø ×º Ì Ç
Ø Ú ÔÖÓ Ö Ñ × × ÑÔ× ÐºÑ





¿º¿º Å ×× Ò Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ö Ö ××ÓÖ׺ Ò Ø ÑÓ Ð ×



y1 X1 ε1

= β+

y2 X2 ε2

ÙØ Û ××ÙÑ ÒÓÛ Ø Ø
ÖÓÛ Ó X2 × Ò ÙÒÓ × ÖÚ
ÓÑÔÓÒ ÒØ´×µº Ò¸ ÓÒ
ÓÙÐ



Ù×Ø ×Ø Ñ Ø Ù× Ò Ø
ÓÑÔÐ Ø Ó × ÖÚ Ø ÓÒ׸ ÙØ Ø Ñ Ý × Ñ ÖÙ×ØÖ Ø Ò ØÓ Ú ØÓ ÖÓÔ



Ó × ÖÚ Ø ÓÒ× × ÑÔÐÝ
Ù× Ó × Ò Ð Ñ ×× Ò Ú Ö Ð º ÁÒ Ò Ö Ð¸ Ø ÙÒÓ × ÖÚ



X2 × Ö ÔÐ
Ý ×ÓÑ ÔÖ

∗


Ø ÓÒ¸ X2 , Ø Ò Û Ö Ò Ø
× Ó ÖÖÓÖ× Ó Ó × ÖÚ Ø ÓÒº



× ÓÖ ¸ Ø × Ñ Ò× Ø Ø Ø ÇÄË ×Ø Ñ ØÓÖ × × Û

∗

Ò X2 × Ù× Ò×Ø Ó X2 .

ÓÒ× ×Ø Ò
Ý × × ÐÚ ¸ ÓÛ Ú Ö¸ × ÐÓÒ × Ø ÒÙÑ Ö Ó Ñ ×× Ò Ó × ÖÚ Ø ÓÒ× Ó ×Ò³Ø



Ò
Ö × Û Ø n.

• ÁÒ
ÐÙ Ò Ó × ÖÚ Ø ÓÒ× Ø Ø Ú Ñ ×× Ò Ú ÐÙ × Ö ÔÐ
Ý Ó
Ú ÐÙ ×
Ò



ÒØ ÖÔÖ Ø × ÒØÖÓ Ù
Ò Ð× ×ØÓ
×Ø
Ö ×ØÖ
Ø ÓÒ׺ ÁÒ Ò Ö Ð¸ Ø × ÒØÖÓ Ù
×



׺ ÁØ ×
ÙÐØ ØÓ Ø ÖÑ Ò Û Ø Ö ÅË Ò
Ö × × ÓÖ
Ö × ×º ÅÓÒØ ÖÐÓ



×ØÙ × ×Ù ×Ø Ø Ø Ø × Ò ÖÓÙ× ØÓ × ÑÔÐÝ ×Ù ×Ø ØÙØ Ø Ñ Ò¸ ÓÖ Ü ÑÔÐ º



• ÁÒ Ø
× Ø Ø Ø Ö × ÓÒÐÝ ÓÒ Ö Ö ××ÓÖ ÓØ Ö Ø Ò Ø
ÓÒ×Ø Òظ ×Ù Ø ØÙØ ÓÒ



Ó x

¯ ÓÖ Ø Ñ ×× Ò xt Ó × ÒÓØ Ð ØÓ ×º Ì × × ×Ô
Ð
× Ø Ø Ó ×Ò³Ø



ÓÐ ÓÖ K > 2.



Ü Ö
× ½ º ÈÖÓÚ Ø × Ð ×Ø ×Ø Ø Ñ Òغ





• ÁÒ ×ÙÑÑ Öݸ ÓÒ × ×ØÖÓÒ ÐÝ
ÓÒ
ÖÒ Û Ø ×¸ Ø × ×Ø ØÓ ÖÓÔ Ó × ÖÚ Ø ÓÒ×



Ø Ø Ú Ñ ×× Ò
ÓÑÔÓÒ ÒØ׺ Ì Ö × ÔÓØ ÒØ Ð ÓÖ Ö Ù
Ø ÓÒ Ó ÅË Ø ÖÓÙ

Ê ÁË Ë ½¼







ÐÐ Ò Ò Ñ ×× Ò Ð Ñ ÒØ× Û Ø ÒØ ÐÐ ÒØ Ù ×× ×¸ ÙØ Ø ×
ÓÙÐ Ð×Ó Ò
Ö ×



ÅË º





º Ü Ö
× ×

Ü Ö
× ×

´½µ ÓÒ× Ö Ø Æ ÖÐÓÚ ÑÓ Ð



j j

ln C = β1 + β2 ln Q + β3 ln PL + β4 ln PF + β5 ln PK + ǫ



Ï Ò Ø × ÑÓ Ð × ×Ø Ñ Ø Ý ÇÄ˸ ×ÓÑ
Ó
ÒØ× Ö ÒÓØ × Ò
Òغ Ì × Ñ Ý



Ù ØÓ
ÓÐÐ Ò Ö Øݺ







Ü Ö
× ×

´ µ Ð
ÙÐ Ø Ø
ÓÖÖ Ð Ø ÓÒ Ñ ØÖ Ü Ó Ø Ö Ö ××ÓÖ׺



´ µ È Ö ÓÖÑ ÖØ
Ð Ö Ö ×× ÓÒ× ØÓ ×
ÓÐÐ Ò Ö ØÝ × ÔÖÓ Ð Ñº



´
µ ÔÔÐÝ Ø Ö Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖº







Ü Ö
× ×

´ µ ÈÐÓØ Ø Ö ØÖ
Ö Ñ



´ µ
Û Ø ÔÔ Ò× × k Ó × ØÓ Þ ÖÓ¸ Ò × k
ÓÑ × Ú ÖÝ Ð Ö º

À ÈÌ Ê ½¼







ÙÒ
Ø ÓÒ Ð ÓÖÑ Ò ÒÓÒÒ ×Ø Ø ×Ø×



Ì ÓÙ Ø ÓÖÝ Ó Ø Ò ×Ù ×Ø× Û

ÓÒ Ø ÓÒ Ò Ú Ö Ð × × ÓÙÐ Ò
ÐÙ ¸ Ò ×Ù ¹



×Ø× Ø × Ò× Ó
ÖØ Ò Ö Ú Ø Ú ×¸ Ø × Ù×Ù ÐÐÝ × Ð ÒØ Ö Ö Ò Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ó Ø



Ö Ð Ø ÓÒ× Ô ØÛ Ò Ø Ô Ò ÒØ Ú Ö Ð Ò Ø Ö Ö ××ÓÖ׺ ÓÖ Ü ÑÔÐ ¸
ÓÒ× Ö Ò




Ó×Ø ÙÒ
Ø ÓÒ¸ ÓÒ
ÓÙÐ Ú Ó ¹ ÓÙ Ð × ÑÓ Ð



β β

c = Aw1 1 w2 2 q βq eε



Ì × ÑÓ Ð¸ Ø Ö Ø Ò ÐÓ Ö Ø Ñ׸ Ú ×





ln c = β0 + β1 ln w1 + β2 ln w2 + βq ln q + ε



Û Ö β0 = ln A. Ì ÓÖÝ ×Ù ×Ø× Ø A > 0, β1 > 0, β2 > 0, β3 > 0. Ì × ÑÓ Ð ×Ò³Ø

Ø




ÓÑÔ Ø Ð Û Ø Ü
Ó×Ø Ó ÔÖÓ Ù
Ø ÓÒ × Ò
c = 0 Û Ò q = 0. ÀÓÑÓ Ò ØÝ Ó Ö



ÓÒ Ò ÒÔÙØ ÔÖ
× ×Ù ×Ø× Ø Ø β1 +β2 = 1, Û Ð
ÓÒ×Ø ÒØ Ö ØÙÖÒ× ØÓ ×
Ð ÑÔÐ × βq = 1.



Ï Ð Ø × ÑÓ Ð Ñ Ý Ö ×ÓÒ Ð Ò ×ÓÑ
× ×¸ Ò ÐØ ÖÒ Ø Ú

√ √ √ √

c = β0 + β1 w1 + β2 w2 + βq q + ε

√

Ñ Ý Ù×Ø × ÔÐ Ù× Ð º ÆÓØ Ø Ø x Ò ln(x) ÐÓÓ ÕÙ Ø Ð ¸ ÓÖ
ÖØ Ò Ú ÐÙ × Ó



Ø Ö Ö ××ÓÖ׸ Ò ÙÔ ØÓ Ð Ò Ö ØÖ Ò× ÓÖÑ Ø ÓÒ¸ ×Ó Ø Ñ Ý
ÙÐØ ØÓ
ÓÓ× ØÛ Ò



Ø × ÑÓ Ð׺



Ì ×
ÔÓ ÒØ × Ø Ø Ñ ÒÝ ÙÒ
Ø ÓÒ Ð ÓÖÑ× Ö
ÓÑÔ Ø Ð Û Ø Ø Ð Ò Ö¹ Ò¹



Ô Ö Ñ Ø Ö× ÑÓ Ð¸ × Ò
Ø × ÑÓ Ð
Ò Ò
ÓÖÔÓÖ Ø Û Ú Ö ØÝ Ó ÒÓÒÐ Ò Ö ØÖ Ò×¹



ÓÖÑ Ø ÓÒ× Ó Ø Ô Ò ÒØ Ú Ö Ð Ò Ø Ö Ö ××ÓÖ׺ ÓÖ Ü ÑÔÐ ¸ ×ÙÔÔÓ× Ø Ø g(·) ×



Ö Ð Ú ÐÙ ÙÒ
Ø ÓÒ Ò Ø Ø x(·) × K− Ú
ØÓÖ¹Ú ÐÙ ÙÒ
Ø ÓÒº Ì ÓÐÐÓÛ Ò ÑÓ Ð



× Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö× ÙØ ÒÓÒÐ Ò Ö Ò Ø Ú Ö Ð ×





xt = x(zt )

yt = x′ β + εt

t



Ì Ö Ñ Ý P ÙÒ Ñ ÒØ Ð
ÓÒ Ø ÓÒ Ò Ú Ö Ð × zt ¸ ÙØ Ø Ö Ñ Ý K Ö Ö ××ÓÖ׸



Û Ö K Ñ Ý ×Ñ ÐÐ Ö Ø Ò¸ ÕÙ Ð ØÓ ÓÖ Ð Ö Ö Ø Ò P. ÓÖ Ü ÑÔÐ ¸ xt
ÓÙÐ Ò
ÐÙ



×ÕÙ Ö × Ò
ÖÓ×× ÔÖÓ Ù
Ø× Ó Ø
ÓÒ Ø ÓÒ Ò Ú Ö Ð × Ò zt .





½º Ð Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ×

Ú Ò Ø Ø Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ó Ø Ö Ð Ø ÓÒ× Ô ØÛ Ò Ø Ô Ò ÒØ Ú Ö Ð Ò



Ø Ö Ö ××ÓÖ× × Ò Ò Ö Ð ÙÒ ÒÓÛÒ¸ ÓÒ Ñ Ø ÛÓÒ Ö Ø Ö Ü ×Ø Ô Ö Ñ ØÖ
ÑÓ ¹



Ð× Ø Ø
Ò
ÐÓ× ÐÝ ÔÔÖÓÜ Ñ Ø Û Ú Ö ØÝ Ó ÙÒ
Ø ÓÒ Ð Ö Ð Ø ÓÒ× Ô׺ Û Öع



Ð Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ × Ò × ÓÒ ×Ù
Ø Ø Ø ÙÒ
Ø ÓÒ¸ Ø Ú
ØÓÖ Ó Ö×Ø Ö Ú ¹



Ø Ú × Ò Ø Ñ ØÖ Ü Ó ×
ÓÒ Ö Ú Ø Ú ×
Ò Ø ÓÒ Ò Ö ØÖ ÖÝ Ú ÐÙ Ø ×Ò Ð Ø

ÔÓ Òغ Ð Ü Ð ØÝ Ò Ø × × Ò×
Ð ÖÐÝ Ö ÕÙ Ö × Ø Ø Ø Ö Ø Ð ×Ø





K = 1 + P + P 2 − P /2 + P



Ö Ô Ö Ñ Ø Ö× ÓÒ ÓÖ
Ò Ô Ò ÒØ
Ø Ø Ø Û Û × ØÓ ÑÓ Ðº



½¼

½º Ä Á Ä ÍÆ ÌÁÇÆ Ä ÇÊÅË ½¼







ËÙÔÔÓ× Ø Ø Ø ÑÓ Ð ×



y = g(x) + ε

×
ÓÒ ¹ÓÖ Ö Ì ÝÐÓÖ³× × Ö × ÜÔ Ò× ÓÒ ´Û Ø Ö Ñ Ò Ö Ø Öѵ Ó Ø ÙÒ
Ø ÓÒ g(x) ÓÙØ



Ø ÔÓ ÒØ x=0 ×

2

x′ Dx g(0)x

g(x) = g(0) + x′ Dx g(0) + +R

2

Í× Ø ÔÔÖÓÜ Ñ Ø ÓÒ¸ Û
× ÑÔÐÝ ÖÓÔ× Ø Ö Ñ Ò Ö Ø ÖѸ × Ò ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ



g(x) :

2

x′ Dx g(0)x

g(x) ≃ gK (x) = g(0) + x′ Dx g(0) +

2

× x → 0, Ø ÔÔÖÓÜ Ñ Ø ÓÒ
ÓÑ × ÑÓÖ Ò ÑÓÖ Ü
ظ Ò Ø × Ò× Ø Ø gK (x) →

2 2

g(x), Dx gK (x) → Dx g(x) Ò Dx gK (x) → Dx g(x). ÓÖ x = 0, Ø ÔÔÖÓÜ Ñ Ø ÓÒ × Ü
ظ



ÙÔ ØÓ Ø ×
ÓÒ ÓÖ Öº Ì Ò Ñ ÒÝ Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ× × ØÓ ÒÓØ Ø Ø g(0),

Dx g(0) Ò

2

Dx g(0) Ö ÐÐ
ÓÒ×Ø ÒØ׺ Á Û ØÖ Ø Ø Ñ × Ô Ö Ñ Ø Ö׸ Ø ÔÔÖÓÜ Ñ Ø ÓÒ



Û ÐÐ Ú Ü
ØÐÝ ÒÓÙ Ö Ô Ö Ñ Ø Ö× ØÓ ÔÔÖÓÜ Ñ Ø Ø ÙÒ
Ø ÓÒ g(x), Û
× Ó



ÙÒ ÒÓÛÒ ÓÖѸ Ü
ØÐݸ ÙÔ ØÓ ×
ÓÒ ÓÖ Ö¸ Ø Ø ÔÓ ÒØ x = 0. Ì ÑÓ Ð ×





gK (x) = α + x′ β + 1/2x′ Γx



×Ó Ø Ö Ö ×× ÓÒ ÑÓ Ð ØÓ Ø ×





y = α + x′ β + 1/2x′ Γx + ε



• Ï Ð Ø Ö Ö ×× ÓÒ ÑÓ Ð × ÒÓÙ Ö Ô Ö Ñ Ø Ö× ØÓ Û Öع Ü Ð ¸ Ø



ÕÙ ×Ø ÓÒ Ö Ñ Ò× × plimα = g(0)?

ˆ Á× ˆ

plimβ = Dx g(0)? Á× ˆ 2

plimΓ = Dx g(0)?

• Ì Ò×Û Ö × ÒÓ¸ Ò Ò Ö Ðº Ì Ö ×ÓÒ × Ø Ø Û ØÖ Ø Ø ØÖÙ Ú ÐÙ × Ó Ø



Ô Ö Ñ Ø Ö× × Ø × Ö Ú Ø Ú ×¸ Ø Ò ε × ÓÖ
ØÓ ÔÐ Ý Ø Ô ÖØ Ó Ø Ö Ñ Ò Ö



Ø ÖѸ Û
× ÙÒ
Ø ÓÒ Ó x, ×Ó Ø Ø x Ò ε Ö
ÓÖÖ Ð Ø Ò Ø ×
× º ×



ÓÖ ¸ Ø ×Ø Ñ ØÓÖ × × Ò Ø ×
× º



• × ÑÔÐ Ö Ü ÑÔÐ ÛÓÙÐ ØÓ
ÓÒ× Ö Ö×عÓÖ Ö ÌºËº ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ



ÕÙ Ö Ø
ÙÒ
Ø ÓÒº Ö Û Ô
ØÙÖ º

• Ì
ÓÒ
ÐÙ× ÓÒ × Ø Ø Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ× Ö Ò³Ø Ö ÐÐÝ Ü Ð Ò Ù× ÙÐ



×Ø Ø ×Ø
Ð × Ò× ¸ Ò Ø Ø Ò Ø Ö Ø ÙÒ
Ø ÓÒ Ø× Ð ÒÓÖ Ø× Ö Ú Ø Ú × Ö
ÓÒ¹



× ×Ø ÒØÐÝ ×Ø Ñ Ø ¸ ÙÒÐ ×× Ø ÙÒ
Ø ÓÒ ÐÓÒ × ØÓ Ø Ô Ö Ñ ØÖ
Ñ ÐÝ Ó Ø



×Ô
ÙÒ
Ø ÓÒ Ð ÓÖѺ ÁÒ ÓÖ Ö ØÓ Ð ØÓ
ÓÒ× ×Ø ÒØ Ò Ö Ò
׸ Ø Ö Ö ×× ÓÒ



ÑÓ Ð ÑÙ×Ø
ÓÖÖ
ØÐÝ ×Ô
º





½º½º Ì ØÖ Ò×ÐÓ ÓÖѺ ÁÒ ×Ô Ø Ó Ø
Ø Ø Ø ³× Ö Ò³Ø Ö ÐÐÝ Ü Ð ÓÖ Ø



ÔÙÖÔÓ× × Ó
ÓÒÓÑ ØÖ
×Ø Ñ Ø ÓÒ Ò Ò Ö Ò
¸ Ø Ý Ö Ù× Ùи Ò Ø Ý Ö
ÖØ ÒÐÝ



×Ù
Ø ØÓ Ð ×× × Ù ØÓ Ñ ××Ô

Ø ÓÒ Ó Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ø Ò Ö Ñ ÒÝ ÔÓÔÙÐ Ö



ÓÖÑ׸ ×Ù
× Ø Ó ¹ ÓÙ Ð × ÓÖ Ø × ÑÔÐ Ð Ò Ö Ò Ø Ú Ö Ð × ÑÓ Ðº Ì ØÖ Ò×ÐÓ



ÑÓ Ð × ÔÖÓ ÐÝ Ø ÑÓ×Ø Û ÐÝ Ù× º Ì × ÑÓ Ð × × ÓÚ ¸ Ü
ÔØ Ø Ø Ø



Ú Ö Ð × Ö ×Ù
Ø ØÓ ÐÓ Ö Ø Ñ
ØÖ Ò ÓÖÑ Ø ÓÒº Ð×Ó¸ Ø ÜÔ Ò× ÓÒ ÔÓ ÒØ × Ù×Ù ÐÐÝ



Ø Ò ØÓ Ø × ÑÔÐ Ñ Ò Ó Ø Ø ¸ Ø Ö Ø ÐÓ Ö Ø Ñ
ØÖ Ò× ÓÖÑ Ø ÓÒº Ì ÑÓ Ð



× Ò Ý





y = ln(c)

z

x = ln

¯

z

z

= ln(z) − ln(¯)

y = α + x′ β + 1/2x′ Γx + ε

½º Ä Á Ä ÍÆ ÌÁÇÆ Ä ÇÊÅË ½¼







ÁÒ Ø × ÔÖ × ÒØ Ø ÓÒ¸ Ø t ×Ù ×
Ö ÔØ Ø Ø ×Ø Ò Ù × × Ó × ÖÚ Ø ÓÒ× × ×ÙÔÔÖ ×× ÓÖ × Ñ¹



ÔÐ
Øݺ ÆÓØ Ø Ø



∂y

= β + Γx

∂x

∂ ln(c)

= ´Ø ÓØ Ö Ô ÖØ Ó x ×
ÓÒ×Ø Òص

∂ ln(z)

∂c z

=

∂z c

Û
× Ø Ð ×Ø
ØÝ Ó c Û Ø Ö ×Ô
Ø ØÓ z. Ì × ×
ÓÒÚ Ò ÒØ ØÙÖ Ó Ø ØÖ Ò×ÐÓ



ÑÓ Ðº ÆÓØ Ø Ø Ø Ø Ñ Ò× Ó Ø
ÓÒ Ø ÓÒ Ò Ú Ö Ð ×¸ z ¸ x = 0,

¯ ×Ó



∂y

=β

∂x z

z=¯

×Ó Ø β Ö Ø Ö×عÓÖ Ö Ð ×Ø
Ø ×¸ Ø Ø Ñ Ò× Ó Ø Ø º



ÌÓ ÐÐÙ×ØÖ Ø ¸
ÓÒ× Ö Ø Ø y ×
Ó×Ø Ó ÔÖÓ Ù
Ø ÓÒ





y = c(w, q)



Û Ö w × Ú
ØÓÖ Ó ÒÔÙØ ÔÖ
× Ò q × ÓÙØÔÙغ Ï
ÓÙÐ ÓØ Ö Ú Ö Ð × Ý



ÜØ Ò Ò q Ò Ø Ó Ú ÓÙ× Ñ ÒÒ Ö¸ ÙØ Ø × × ×ÙÔÖ ×× ÓÖ × ÑÔÐ
Øݺ Ý Ë Ô Ö ³×



Ð ÑÑ ¸ Ø
ÓÒ Ø ÓÒ Ð
ØÓÖ Ñ Ò × Ö



∂c(w, q)

x=

∂w

Ò Ø
Ó×Ø × Ö × Ó Ø
ØÓÖ× Ö Ø Ö ÓÖ



wx ∂c(w, q) w

s= =

c ∂w c

Û
× × ÑÔÐÝ Ø Ú
ØÓÖ Ó Ð ×Ø
Ø × Ó
Ó×Ø Û Ø Ö ×Ô
Ø ØÓ ÒÔÙØ ÔÖ
׺ Á Ø
Ó×Ø



ÙÒ
Ø ÓÒ × ÑÓ Ð Ù× Ò ØÖ Ò×ÐÓ ÙÒ
Ø ÓÒ¸ Û Ú



Γ11 Γ12 x

ln(c) = α + x′ β + z ′ δ + 1/2 x′ z

Γ′

12 Γ22 z

= α + x′ β + z ′ δ + 1/2x′ Γ11 x + x′ Γ12 z + 1/2z 2 γ22



Û Ö x = ln(w/w)

¯ ´ Ð Ñ Òع ݹ Ð Ñ ÒØ Ú × ÓÒµ Ò z = ln(q/¯),

q Ò





γ11 γ12

Γ11 =

γ12 γ22



γ13

Γ12 =

γ23

Γ22 = γ33 .



ÆÓØ Ø Ø ×ÝÑÑ ØÖÝ Ó Ø ×
ÓÒ Ö Ú Ø Ú × × Ò ÑÔÓ× º



Ì Ò Ø × Ö ÕÙ Ø ÓÒ× Ö Ù×Ø



x

s=β+ Γ11 Γ12

z

Ì Ö ÓÖ ¸ Ø × Ö ÕÙ Ø ÓÒ× Ò Ø
Ó×Ø ÕÙ Ø ÓÒ Ú Ô Ö Ñ Ø Ö× Ò
ÓÑÑÓÒº Ý



ÔÓÓÐ Ò Ø ÕÙ Ø ÓÒ× ØÓ Ø Ö Ò ÑÔÓ× Ò Ø ´ØÖÙ µ Ö ×ØÖ
Ø ÓÒ Ø Ø Ø Ô Ö Ñ Ø Ö× Ó



Ø ÕÙ Ø ÓÒ× Ø × Ñ ¸ Û
Ò Ò
Ò
ݺ

½º Ä Á Ä ÍÆ ÌÁÇÆ Ä ÇÊÅË ½½¼







ÌÓ ÐÐÙ×ØÖ Ø Ò ÑÓÖ Ø Ð¸
ÓÒ× Ö Ø
× Ó ØÛÓ ÒÔÙØ׸ ×Ó



x1

x= .

x2

ÁÒ Ø ×
× Ø ØÖ Ò×ÐÓ ÑÓ Ð Ó Ø ÐÓ Ö Ø Ñ

Ó×Ø ÙÒ
Ø ÓÒ ×



γ11 2 γ22 2 γ33 2

ln c = α + β1 x1 + β2 x2 + δz + x + x + z + γ12 x1 x2 + γ13 x1 z + γ23 x2 z

2 1 2 2 2

Ì ØÛÓ
Ó×Ø × Ö × Ó Ø ÒÔÙØ× Ö Ø Ö Ú Ø Ú × Ó ln c Û Ø Ö ×Ô
Ø ØÓ x1 Ò x2





s1 = β1 + γ11 x1 + γ12 x2 + γ13 z

s2 = β2 + γ12 x1 + γ22 x2 + γ13 z



ÆÓØ Ø Ø Ø × Ö ÕÙ Ø ÓÒ× Ò Ø
Ó×Ø ÕÙ Ø ÓÒ Ú Ô Ö Ñ Ø Ö× Ò
ÓÑÑÓÒº ÇÒ




Ò Ó ÔÓÓÐ ×Ø Ñ Ø ÓÒ Ó Ø Ø Ö ÕÙ Ø ÓÒ× Ø ÓÒ
¸ ÑÔÓ× Ò Ø Ø Ø Ô Ö Ñ Ø Ö×



Ö Ø × Ñ º ÁÒ Ø × Û Ý Û ³Ö Ù× Ò ÑÓÖ Ó × ÖÚ Ø ÓÒ× Ò Ø Ö ÓÖ ÑÓÖ Ò ÓÖÑ Ø ÓÒ¸



Û
Û ÐÐ Ð ØÓ ÑÔÓÖÚ
Ò
ݺ ÆÓØ Ø Ø Ø × Ó × ××ÙÑ Ø Ø Ø
Ó×Ø ÕÙ Ø ÓÒ



×
ÓÖÖ
ØÐÝ ×Ô
´ º º¸ ÒÓØ Ò ÔÔÖÓÜ Ñ Ø ÓÒµ¸ × Ò
ÓØ ÖÛ × Ø Ö Ú Ø Ú × ÛÓÙÐ



ÒÓØ Ø ØÖÙ Ö Ú Ø Ú × Ó Ø ÐÓ
Ó×Ø ÙÒ
Ø ÓÒ¸ Ò ÛÓÙÐ Ø Ò Ñ ××Ô
ÓÖ Ø



× Ö ×º ÌÓ ÔÓÓÐ Ø ÕÙ Ø ÓÒ׸ ÛÖ Ø Ø ÑÓ Ð Ò Ñ ØÖ Ü ÓÖÑ ´ Ò Ò ÖÖÓÖ Ø ÖÑ×µ

 

α

 

 β1 

 

 β2 

 

   x2 x2 2



 δ

 

 

ln c 1 x1 x2 z 21 22 z2 x1 x2 x1 z x 2 z   ε1

    γ11  

 +  ε2 

 s 1  =  0 1 0 0 x1 0 0 x2 z 0    

 γ22 

s2 0 0 1 0 0 x2 0 x1 0 z   ε3

 γ33 

 

 γ12 

 

 

 γ13 

γ23

Ì × × ÓÒ Ó × ÖÚ Ø ÓÒ ÓÒ Ø Ø Ö ÕÙ Ø ÓÒ׺ Ï Ø Ø ÔÔÖÓÔÖ Ø ÒÓØ Ø ÓÒ¸ × Ò Ð



Ó × ÖÚ Ø ÓÒ
Ò ÛÖ ØØ Ò ×



yt = Xt θ + εt

Ì ÓÚ Ö ÐÐ ÑÓ Ð ÛÓÙÐ ×Ø
n Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ø Ö ÕÙ Ø ÓÒ× ÓÖ ØÓØ Ð Ó 3n

Ó × ÖÚ Ø ÓÒ×      

y1 X1 ε1

     

 y2   X2   ε 

 º = º θ +  º2 

 º   º   º 

 º   º   º 

yn Xn εn

Æ ÜØ Û Ò ØÓ
ÓÒ× Ö Ø ÖÖÓÖ׺ ÓÖ Ó × ÖÚ Ø ÓÒ tØ ÖÖÓÖ×
Ò ÔÐ
Ò Ú
ØÓÖ

 

ε1t

 

εt =  ε2t 

ε3t

Ö×Ø
ÓÒ× Ö Ø
ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø × Ú
ØÓÖ Ø × Ö × Ö
ÖØ ÒÐÝ
ÓÖÖ Ð Ø



× Ò
Ø Ý ÑÙ×Ø ×ÙÑ ØÓ ÓÒ º ´ÁÒ
ظ Û Ø ¾ × Ö × Ø Ú Ö Ò
× Ö ÕÙ Ð Ò Ø




ÓÚ Ö Ò
× ¹½ Ø Ñ × Ø Ú Ö Ò
º Ò Ö Ð ÒÓØ Ø ÓÒ × Ù× ØÓ ÐÐÓÛ ×Ý ÜØ Ò× ÓÒ ØÓ Ø




× Ó ÑÓÖ Ø Ò ¾ ÒÔÙØ×µº Ð×Ó¸ Ø³× Ð ÐÝ Ø Ø Ø × Ö × Ò Ø
Ó×Ø ÕÙ Ø ÓÒ Ú

½º Ä Á Ä ÍÆ ÌÁÇÆ Ä ÇÊÅË ½½½







Ö ÒØ Ú Ö Ò
׺ ËÙÔÔÓ× Ò Ø Ø Ø ÑÓ Ð ×
ÓÚ Ö Ò
×Ø Ø ÓÒ Öݸ Ø Ú Ö Ò
Ó εt

′

ÛÓÒ Ø Ô Ò ÙÔÓÒ t  

σ11 σ12 σ13

 

V arεt = Σ0 =  · σ22 σ23 

· · σ33

ÆÓØ Ø Ø Ø × Ñ ØÖ Ü × × Ò ÙÐ Ö¸ × Ò
Ø × Ö × ×ÙÑ ØÓ ½º ××ÙÑ Ò Ø Ø Ø Ö ×



ÒÓ ÙØÓ
ÓÖÖ Ð Ø ÓÒ¸ Ø ÓÚ Ö ÐÐ
ÓÚ Ö Ò
Ñ ØÖ Ü × Ø × Ñ Ò ÐÝ ÙÒÖ Ð Ø Ö Ö ×× ÓÒ×

´ËÍʵ ×ØÖÙ
ØÙÖ º

 

ε1

 

 ε2 

 º  = Σ

V ar  

 º 

º



εn

 

Σ0 0 ··· 0

 ºº º



 0 Σ0 º º 

 º 

=  º ºº



 º º 0 

 º 

0 ··· 0 Σ0

= In ⊗ Σ0



Û Ö Ø ×ÝÑ ÓÐ ⊗ Ò
Ø × Ø ÃÖÓÒ
Ö ÔÖÓ Ù
غ Ì ÃÖÓÒ
Ö ÔÖÓ Ù
Ø Ó ØÛÓ



Ñ ØÖ
× A Ò B ×  

a11 B a12 B · · · a1q B

 º



 a B ººº º 

 21 º 

A⊗B = º .

 º 

 º 

apq B · · · apq B









½º¾º ÄË ×Ø Ñ Ø ÓÒ Ó ØÖ Ò×ÐÓ ÑÓ Ðº ËÓ¸ Ø × ÑÓ Ð × Ø ÖÓ×
×Ø
ØÝ



Ò ÙØÓ
ÓÖÖ Ð Ø ÓÒ¸ ×Ó ÇÄË ÛÓÒ³Ø
Òغ Ì Ò ÜØ ÕÙ ×Ø ÓÒ × ÓÛ Ó Û ×Ø Ñ Ø




ÒØÐÝ Ù× Ò ÄË ÄË × × ÙÔÓÒ ÒÚ ÖØ Ò Ø ×Ø Ñ Ø ÖÖÓÖ
ÓÚ Ö Ò
ˆ

Σ.

ËÓ Û Ò ØÓ ×Ø Ñ Ø Σ.

Ò ×ÝÑÔØÓØ
ÐÐÝ
ÒØ ÔÖÓ
ÙÖ × ´×ÙÔÔÓ× Ò ÒÓÖÑ Ð ØÝ Ó Ø ÖÖÓÖ×µ









´½µ ×Ø Ñ Ø
ÕÙ Ø ÓÒ Ý ÇÄË



´¾µ ×Ø Ñ Ø Σ0 Ù× Ò

n

ˆ 1

Σ0 = εt ε′

ˆ ˆt

n t=1

´¿µ Æ ÜØ Û Ò ØÓ

ÓÙÒØ ÓÖ Ø × Ò ÙÐ Ö ØÝ Ó Σ0 . ÁØ
Ò × ÓÛÒ Ø Ø ˆ

Σ0 Û ÐÐ



× Ò ÙÐ Ö Û Ò Ø × Ö × ×ÙÑ ØÓ ÓÒ ¸ ×Ó ÄË ÛÓÒ³Ø ÛÓÖ º Ì ×ÓÐÙØ ÓÒ × ØÓ

½º Ä Á Ä ÍÆ ÌÁÇÆ Ä ÇÊÅË ½½¾







ÖÓÔ ÓÒ Ó Ø × Ö ÕÙ Ø ÓÒ׸ ÓÖ Ü ÑÔÐ Ø ×
ÓÒ º Ì ÑÓ Ð
ÓÑ ×

 

α

 

 β1 

 

 β2 

 

 

 δ 

x2 x2 z2

 

ln c 1 x1 x2 z 21 22 x1 x2 x1 z x 2 z  γ11  ε1

= 2  +

s1 0 1 0 0 x1 0 0 x2 z 0  γ22  ε2

 

 

 γ33 

 

 γ12 

 

 

 γ13 

γ23

ÓÖ Ò Ñ ØÖ Ü ÒÓØ Ø ÓÒ ÓÖ Ø Ó × ÖÚ Ø ÓÒ



∗ ∗

yt = Xt θ + ε∗

t



Ò Ò ×Ø
ÒÓØ Ø ÓÒ ÓÖ ÐÐ Ó × ÖÚ Ø ÓÒ× Û Ú Ø 2n Ó × ÖÚ Ø ÓÒ×

     

∗

y1 ∗

X1 ε∗

1

 ∗   ∗   ∗ 

 y2   X2   ε2 

 º = º θ +  º 

 º   º   º 

 º   º   º 

∗

yn ∗

Xn ε∗

n



ÓÖ¸ Ò ÐÐÝ Ò Ñ ØÖ Ü ÒÓØ Ø ÓÒ ÓÖ ÐÐ Ó × ÖÚ Ø ÓÒ×





y ∗ = X ∗ θ + ε∗



ÓÒ× Ö Ò Ø ÖÖÓÖ
ÓÚ Ö Ò
¸ Û
Ò Ò



ε1

Σ∗ = V ar

0

ε2

Σ ∗ = In ⊗ Σ ∗

0



Ò ˆ

Σ∗ × Ø Ð Ò 2×2 ÐÓ
Ó ˆ

Σ0 ¸ Ò ÓÖÑ

0



ˆ ˆ

Σ ∗ = In ⊗ Σ ∗ .

0



Ì × ×
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ¸ ÓÐÐÓÛ Ò Ø
ÓÒ× ×Ø Ò
Ý Ó ÇÄË Ò ÔÔÐÝ Ò



ÄÄƺ



´ µ Æ ÜØ
ÓÑÔÙØ Ø ÓÐ × Ý
ØÓÖ Þ Ø ÓÒ



−1

ˆ ˆ

P0 = Chol Σ∗0



´Á Ñ ××ÙÑ Ò Ø × × Ò × Ò ÙÔÔ Ö ØÖ Ò ÙÐ Ö Ñ ØÖ Ü¸ Û
×
ÓÒ× ×¹



Ø ÒØ Û Ø Ø Û Ý Ç
Ø Ú Ó × Øµ Ò Ø ÓÐ × Ý
ØÓÖ Þ Ø ÓÒ Ó Ø ÓÚ Ö ÐÐ




ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø ¾ ÕÙ Ø ÓÒ ÑÓ Ð¸ Û

Ò
Ð
ÙÐ Ø ×



ˆ ˆ ˆ

P = CholΣ∗ = In ⊗ P0



´ µ Ò ÐÐÝ Ø ÄË ×Ø Ñ ØÓÖ
Ò
Ð
ÙÐ Ø Ý ÔÔÐÝ Ò ÇÄË ØÓ Ø ØÖ Ò× ÓÖÑ



ÑÓ Ð

ˆ′

ˆ ˆ

P ′ y ∗ = P ′ X ∗ θ + ˆ ε∗

P

¾º Ì ËÌÁÆ ÆÇÆÆ ËÌ À ÈÇÌÀ Ë Ë ½½¿







ÓÖ Ý Ö
ØÐÝ Ù× Ò Ø ÄË ÓÖÑÙÐ



−1 −1 −1

ˆ

θF GLS = ˆ

X ∗′ Σ∗ X∗ ˆ

X ∗′ Σ∗ y∗

0 0



ÁØ × ÕÙ Ú Ð ÒØ ØÓ ØÖ Ò× ÓÖÑ
Ó × ÖÚ Ø ÓÒ Ò Ú Ù ÐÐÝ



ˆ′ ∗ ˆ′ ∗ ˆ′

P0 yy = P0 Xt θ + P0 ε∗



Ò Ø Ò ÔÔÐÝ ÇÄ˺ Ì × × ÔÖÓ ÐÝ Ø × ÑÔÐ ×Ø ÔÔÖÓ
º





Û Ð ×Ø
ÓÑÑ ÒØ׺





´½µ Ï Ú ××ÙÑ ÒÓ ÙØÓ
ÓÖÖ Ð Ø ÓÒ
ÖÓ×× Ø Ñ º Ì × ×
Ð ÖÐÝ Ö ×ØÖ
Ø Ú º ÁØ ×



Ö Ð Ø Ú ÐÝ × ÑÔÐ ØÓ Ö Ð Ü Ø ×¸ ÙØ Û ÛÓÒ³Ø Ó ÒØÓ Ø Ö º



´¾µ Ð×Ó¸ Û Ú ÓÒÐÝ ÑÔÓ× ×ÝÑÑ ØÖÝ Ó Ø ×
ÓÒ Ö Ú Ø Ú ×º ÒÓØ Ö Ö ×ØÖ
¹



Ø ÓÒ Ø Ø Ø ÑÓ Ð × ÓÙÐ × Ø × Ý × Ø Ø Ø ×Ø Ñ Ø × Ö × × ÓÙÐ ×ÙÑ ØÓ ½º



Ì ×
Ò

ÓÑÔÐ × Ý ÑÔÓ× Ò





β1 + β2 = 1

3

γij = 0, j = 1, 2, 3.

i=1



Ì × Ö Ð Ò Ö Ô Ö Ñ Ø Ö Ö ×ØÖ
Ø ÓÒ׸ ×Ó Ø Ý Ö ×Ý ØÓ ÑÔÓ× Ò Û ÐРѹ



ÔÖÓÚ
Ò
Ý Ø Ý Ö ØÖÙ º



´¿µ Ì ×Ø Ñ Ø ÓÒ ÔÖÓ
ÙÖ ÓÙØÐ Ò ÓÚ
Ò Ø Ö Ø º Ì Ø ×¸ ×Ø Ñ Ø ˆ

θF GLS

× ÓÚ ¸ Ø Ò Ö ¹ ×Ø Ñ Ø Σ∗ Ù× Ò

0 ÖÖÓÖ×
Ð
ÙÐ Ø ×





ˆ ˆ

ε = y − X θF GLS



Ì × Ñ Ø ÜÔ
Ø ØÓ Ð ØÓ ØØ Ö ×Ø Ñ Ø Ø Ò Ø ×Ø Ñ ØÓÖ ×



ÓÒ ˆ

θOLS , × Ò
ÄË × ×ÝÑÔØÓØ
ÐÐÝ ÑÓÖ
Òغ Ì Ò Ö ¹ ×Ø Ñ Ø θ Ù× Ò Ø



Ò Û ×Ø Ñ Ø ÖÖÓÖ
ÓÚ Ö Ò
º ÁØ
Ò × ÓÛÒ Ø Ø Ø × × Ö Ô Ø ÙÒØ Ð Ø



×Ø Ñ Ø × ÓÒ³Ø
Ò ´ º º¸ Ø Ö Ø ØÓ
ÓÒÚ Ö Ò
µ Ø Ò Ø Ö ×ÙÐØ Ò ×Ø Ñ ØÓÖ



× Ø ÅÄ º Ø ÒÝ Ö Ø ¸ Ø ×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ó Ø Ø Ö Ø Ò ÙÒ Ø Ö Ø



×Ø Ñ ØÓÖ× Ö Ø × Ñ ¸ × Ò
ÓØ Ö × ÙÔÓÒ
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Ø



ÖÖÓÖ
ÓÚ Ö Ò
º









¾º Ì ×Ø Ò ÒÓÒÒ ×Ø ÝÔÓØ × ×

Ú Ò Ø Ø Ø
Ó
Ó ÙÒ
Ø ÓÒ Ð ÓÖÑ ×Ò³Ø Ô Ö
ØÐÝ
Ð Ö¸ Ò Ø Ø Ñ ÒÝ ÔÓ×× Ð Ø ×



Ü ×ظ ÓÛ
Ò ÓÒ
ÓÓ× ØÛ Ò ÓÖÑ× Ï Ò ÓÒ ÓÖÑ × Ô Ö Ñ ØÖ
Ö ×ØÖ
Ø ÓÒ Ó



ÒÓØ Ö¸ Ø ÔÖ Ú ÓÙ×ÐÝ ×ØÙ Ø ×Ø× ×Ù
× Ï Ð ¸ Äʸ ×
ÓÖ ÓÖ qF Ö ÐÐ ÔÓ×× Ð Ø ×º



ÓÖ Ü ÑÔÐ ¸ Ø Ó ¹ ÓÙ Ð × ÑÓ Ð × Ô Ö Ñ ØÖ
Ö ×ØÖ
Ø ÓÒ Ó Ø ØÖ Ò×ÐÓ Ì



ØÖ Ò×ÐÓ ×



yt = α + x′ β + 1/2x′ Γxt + ε

t t



Û Ö Ø Ú Ö Ð × Ö Ò ÐÓ Ö Ø Ñ׸ Û Ð Ø Ó ¹ ÓÙ Ð × ×





y t = α + x′ β + ε

t



×Ó Ø ×Ø Ó Ø Ó ¹ ÓÙ Ð × Ú Ö×Ù× Ø ØÖ Ò×ÐÓ × × ÑÔÐÝ Ø ×Ø Ø Ø Γ = 0.

Ì × ØÙ Ø ÓÒ × ÑÓÖ
ÓÑÔÐ
Ø Û Ò Û Û ÒØ ØÓ Ø ×Ø ÒÓÒ¹Ò ×Ø ÝÔÓØ × ×º Á Ø



ØÛÓ ÙÒ
Ø ÓÒ Ð ÓÖÑ× Ö Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö׸ Ò Ù× Ø × Ñ ØÖ Ò× ÓÖÑ Ø ÓÒ Ó Ø

¾º Ì ËÌÁÆ ÆÇÆÆ ËÌ À ÈÇÌÀ Ë Ë ½½







Ô Ò ÒØ Ú Ö Ð ¸ Ø Ò Ø Ý Ñ Ý ÛÖ ØØ Ò ×





M1 : y = Xβ + ε

2

εt ∼ iid(0, σε )

M2 : y = Zγ + η

2

η ∼ iid(0, ση )



Ï Û × ØÓ Ø ×Ø ÝÔÓØ × × Ó Ø ÓÖÑ H0 : Mi ×
ÓÖÖ
ØÐÝ ×Ô
Ú Ö×Ù× HA : Mi ×

Ñ ××Ô
¸ ÓÖ i = 1, 2.



• ÇÒ
ÓÙÐ

ÓÙÒØ ÓÖ ÒÓÒ¹ ÖÖÓÖ׸ ÙØ Û ³ÐÐ ×ÙÔÔÖ ×× Ø × ÓÖ × ÑÔÐ
Øݺ



• Ì Ö Ö ÒÙÑ Ö Ó Û Ý× ØÓ ÔÖÓ
º Ï ³ÐÐ
ÓÒ× Ö Ø J Ø ×ظ ÔÖÓÔÓ× Ý



Ú ×ÓÒ Ò Å
à ÒÒÓÒ¸
ÓÒÓÑ ØÖ
´½ ½µº Ì × ØÓ ÖØ
ÐÐÝ Ò ×Ø



Ø ØÛÓ ÑÓ Ð׸ º º¸





y = (1 − α)Xβ + α(Zγ) + ω



Á Ø Ö×Ø ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
¸ Ø Ò Ø ØÖÙ Ú ÐÙ αÓ × Þ ÖÓº ÇÒ Ø



ÓØ Ö Ò ¸ Ø ×
ÓÒ ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
Ø Ò α = 1.

Ì ÔÖÓ Ð Ñ × Ø Ø Ø × ÑÓ Ð × ÒÓØ ÒØ Ò Ò Ö Ðº ÓÖ Ü ÑÔÐ ¸



Ø ÑÓ Ð× × Ö ×ÓÑ Ö Ö ××ÓÖ׸ × Ò





M1 : yt = β1 + β2 x2t + β3 x3t + εt

M2 : yt = γ1 + γ2 x2t + γ3 x4t + ηt



Ø Ò Ø
ÓÑÔÓ× Ø ÑÓ Ð ×





yt = (1 − α)β1 + (1 − α)β2 x2t + (1 − α)β3 x3t + αγ1 + αγ2 x2t + αγ3 x4t + ωt



ÓÑ Ò Ò Ø ÖÑ× Û Ø





yt = ((1 − α)β1 + αγ1 ) + ((1 − α)β2 + αγ2 ) x2t + (1 − α)β3 x3t + αγ3 x4t + ωt

= δ1 + δ2 x2t + δ3 x3t + δ4 x4t + ωt



Ì ÓÙÖ δ′ s Ö
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð ¸ ÙØ α × ÒÓظ × Ò
Û Ú ÓÙÖ ÕÙ Ø ÓÒ× Ò



ÙÒ ÒÓÛÒ׸ ×Ó ÓÒ
Ò³Ø Ø ×Ø Ø ÝÔÓØ × × Ø Ø α = 0.

Ì Ó Ø J Ø ×Ø × ØÓ ×Ù ×Ø ØÙØ ˆ

γ Ò ÔÐ
Ó γ. Ì × ×
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ



×ÙÔÔÓ× Ò Ø Ø Ø ×
ÓÒ ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
º ÁØ Û ÐÐ Ø Ò ØÓ Ò Ø ÔÖÓ Ð ØÝ



Ð Ñ Ø Ú Ò Ø ×
ÓÒ ÑÓ Ð × Ñ ××Ô
º Ì Ò ×Ø Ñ Ø Ø ÑÓ Ð





ˆ

y = (1 − α)Xβ + α(Z γ ) + ω

y

= Xθ + αˆ + ω



Û Ö y = Z(Z ′ Z)−1 Z ′ y = PZ y.

ˆ ÁÒ Ø × ÑÓ Ð¸ α ×
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð ¸ Ò ÓÒ
Ò

p

× ÓÛ Ø Ø¸ ÙÒ ÖØ ÝÔÓØ × ×Ø ØØ Ö×Ø ÑÓ Ð ×
ÓÖÖ
ظ α→0 Ò Ø ØØ ÓÖ Ò ÖÝ



t ¹×Ø Ø ×Ø
ÓÖ α=0 × ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ Ð



ˆ

α a

t= ∼ N (0, 1)

ˆˆ

σα

p

• Á Ø ×
ÓÒ ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
¸ Ø Ò t → ∞, × Ò
α Ø

ˆ Ò × Ò ÔÖÓ Ð ØÝ



ØÓ ½¸ Û Ð Ø³× ×Ø Ñ Ø ×Ø Ò Ö ÖÖÓÖ Ø Ò × ØÓ Þ ÖÓº Ì Ù× Ø Ø ×Ø Û ÐÐ ÐÛ Ý×



Ö
Ø Ø Ð× ÒÙÐÐ ÑÓ Ð¸ ×ÝÑÔØÓØ
ÐÐݸ × Ò
Ø ×Ø Ø ×Ø
Û ÐÐ Ú ÒØÙ ÐÐÝ Ü




ÒÝ
Ö Ø
Ð Ú ÐÙ Û Ø ÔÖÓ Ð ØÝ ÓÒ º

¾º Ì ËÌÁÆ ÆÇÆÆ ËÌ À ÈÇÌÀ Ë Ë ½½







• Ï
Ò Ö Ú Ö× Ø ÖÓÐ × Ó Ø ÑÓ Ð׸ Ø ×Ø Ò Ø ×
ÓÒ Ò×Ø Ø Ö×غ



• ÁØ Ñ Ý Ø
× Ø Ø Ò Ø Ö ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
º ÁÒ Ø ×
× ¸ Ø Ø ×Ø



Û ÐÐ ×Ø ÐÐ Ö
Ø Ø ÒÙÐÐ ÝÔÓØ × ×¸ ×ÝÑÔØÓØ
ÐÐݸ Û Ù×
Ö Ø
Ð Ú ÐÙ × ÖÓÑ



Ø N (0, 1) ×ØÖ ÙØ ÓÒ¸ × Ò
× ÐÓÒ × αØ

ˆ Ò × ØÓ ×ÓÑ Ø Ò Ö ÒØ ÖÓÑ Þ ÖÓ¸

p

|t| → ∞. Ç
ÓÙÖ× ¸ Û Ò Û ×Û Ø
Ø ÖÓÐ × Ó Ø ÑÓ Ð× Ø ÓØ Ö Û ÐÐ Ð×Ó



Ö
Ø ×ÝÑÔØÓØ
ÐÐݺ



• ÁÒ ×ÙÑÑ Öݸ Ø Ö Ö ÔÓ×× Ð ÓÙØ
ÓÑ × Û Ò Û Ø ×Ø ØÛÓ ÑÓ Ð׸
Ò×Ø



Ø ÓØ Öº ÓØ Ñ Ý Ö
Ø ¸ Ò Ø Ö Ñ Ý Ö
Ø ¸ ÓÖ ÓÒ Ó Ø ØÛÓ Ñ Ý



Ö
Ø º



• Ì Ö Ö ÓØ Ö Ø ×Ø× Ú Ð Ð ÓÖ ÒÓÒ¹Ò ×Ø ÑÓ Ð׺ Ì J− Ø ×Ø × × ÑÔÐ ØÓ



ÔÔÐÝ Û Ò ÓØ ÑÓ Ð× Ö Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö׺ Ì P ¹Ø ×Ø × × Ñ Ð Ö¸ ÙØ



× Ö ØÓ ÔÔÐÝ Û Ò M1 × ÒÓÒÐ Ò Öº



• Ì ÓÚ ÔÖ × ÒØ Ø ÓÒ ××ÙÑ × Ø Ø Ø × Ñ ØÖ Ò× ÓÖÑ Ø ÓÒ Ó Ø Ô Ò ÒØ



Ú Ö Ð × Ù× Ý ÓØ ÑÓ Ð׺ Å
à ÒÒÓÒ¸ Ï Ø Ò Ú ×ÓÒ¸ ÂÓÙÖÒ Ð Ó


ÓÒÓÑ ØÖ
׸ ´½ ¿µ × ÓÛ× ÓÛ ØÓ ÐÛ Ø Ø
× Ó Ö ÒØ ØÖ Ò× ÓÖÑ Ø ÓÒ׺



• ÅÓÒØ ¹ ÖÐÓ Ú Ò
× ÓÛ× Ø Ø Ø × Ø ×Ø× Ó Ø Ò ÓÚ Ö¹Ö
Ø
ÓÖÖ
ØÐÝ ×Ô




ÑÓ Ðº Ò Ù× ÓÓØ×ØÖ Ô
Ö Ø
Ð Ú ÐÙ × ØÓ Ø ØØ Ö¹Ô Ö ÓÖÑ Ò Ø ×Ø׺

À ÈÌ Ê ½½







ÜÓ Ò ØÝ Ò × ÑÙÐØ Ò ØÝ



Ë Ú Ö Ð Ø Ñ × Û ³Ú Ò
ÓÙÒØ Ö
× × Û Ö
ÓÖÖ Ð Ø ÓÒ ØÛ Ò Ö Ö ××ÓÖ× Ò Ø



ÖÖÓÖ Ø ÖÑ Ð ØÓ × Ò ×× Ò Ò
ÓÒ× ×Ø Ò
Ý Ó Ø ÇÄË ×Ø Ñ ØÓÖº × × Ò
ÐÙ



ÙØÓ
ÓÖÖ Ð Ø ÓÒ Û Ø Ð Ô Ò ÒØ Ú Ö Ð × Ò Ñ ×ÙÖ Ñ ÒØ ÖÖÓÖ Ò Ø Ö Ö ××ÓÖ׺



ÒÓØ Ö ÑÔÓÖØ ÒØ
× × Ø Ø Ó × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ׺ Ì
Ù× × Ö Òظ ÙØ Ø




Ø × Ø × Ñ º





½º Ë ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ×

ÍÔ ÙÒØ Ð ÒÓÛ ÓÙÖ ÑÓ Ð ×



y = Xβ + ε

Û Ö ¸ ÓÖ ÔÙÖÔÓ× × Ó ×Ø Ñ Ø ÓÒ Û
Ò ØÖ Ø X × Ü º Ì ×Ñ Ò× Ø ØÛ Ò ×Ø Ñ Ø Ò



β Û
ÓÒ Ø ÓÒ ÓÒ X. Ï Ò Ò ÐÝÞ Ò ÝÒ Ñ
ÑÓ Ð׸ Û ³Ö ÒÓØ ÒØ Ö ×Ø Ò
ÓÒ Ø ÓÒ Ò



ÓÒ X, × Û × Û Ò Ø ×
Ø ÓÒ ÓÒ ×ØÓ
×Ø
Ö Ö ××ÓÖ׺ Æ Ú ÖØ Ð ×׸ Ø ÇÄË ×Ø Ñ ØÓÖ



Ó Ø Ò Ý ØÖ Ø Ò X × Ü
ÓÒØ ÒÙ × ØÓ Ú × Ö Ð ×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ú Ò Ò



Ø Ø
× º



Ë ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× × Ö ÒØ ÔÖÓ×Ô
غ Ò Ü ÑÔÐ Ó × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ



×Ý×Ø Ñ × × ÑÔÐ ×ÙÔÔÐݹ Ñ Ò ×Ý×Ø Ñ





Ñ Ò qt = α1 + α2 pt + α3 yt + ε1t

ËÙÔÔÐÝ qt = β1 + β2 pt + ε2t

ε1t σ11 σ12

E ε1t ε2t =

ε2t · σ22

≡ Σ, ∀t



Ì ÔÖ ×ÙÑÔØ ÓÒ × Ø Ø qt Ò pt Ö Ó ÒØÐÝ Ø ÖÑ Ò Ø Ø × Ñ Ø Ñ Ý Ø ÒØ Ö¹



×
Ø ÓÒ Ó Ø × ÕÙ Ø ÓÒ׺ Ï ³ÐÐ ××ÙÑ Ø Ø yt × Ø ÖÑ Ò Ý ×ÓÑ ÙÒÖ Ð Ø ÔÖÓ
×׺



ÁØ³× ×Ý ØÓ × Ø Ø Û Ú
ÓÖÖ Ð Ø ÓÒ ØÛ Ò Ö Ö ××ÓÖ× Ò ÖÖÓÖ׺ ËÓÐÚ Ò ÓÖ pt



α1 + α2 pt + α3 yt + ε1t = β1 + β2 pt + ε2t

β2 pt − α2 pt = α1 − β1 + α3 yt + ε1t − ε2t

α1 − β1 α3 yt ε1t − ε2t

pt = + +

β2 − α2 β2 − α2 β2 − α2

ÆÓÛ
ÓÒ× Ö Û Ø Ö pt × ÙÒ
ÓÖÖ Ð Ø Û Ø ε1t :

α1 − β1 α3 yt ε1t − ε2t

E(pt ε1t ) = E + + ε1t

β2 − α2 β2 − α2 β2 − α2

σ11 − σ12

=

β2 − α2


Ù× Ó Ø ×
ÓÖÖ Ð Ø ÓÒ¸ ÇÄË ×Ø Ñ Ø ÓÒ Ó Ø Ñ Ò ÕÙ Ø ÓÒ Û ÐÐ × Ò



Ò
ÓÒ× ×Ø Òغ Ì × Ñ ÔÔÐ × ØÓ Ø ×ÙÔÔÐÝ ÕÙ Ø ÓÒ¸ ÓÖ Ø × Ñ Ö ×ÓÒº



ÁÒ Ø × ÑÓ qt

и Ò pt Ö Ø Ò Ó ÒÓÙ× Ú Ö Ð × ´ Ò Ó ×µ¸ Ø Ø Ö Ø ÖÑ Ò



Û Ø Ò Ø ×Ý×Ø Ñº yt × Ò ÜÓ ÒÓÙ× Ú Ö Ð ´ ÜÓ ×µº Ì ×
ÓÒ
ÔØ× Ö Ø ØÖ
ݸ



½½

¾º Ç Æ ÁÌ ½½







Ò Û ³ÐÐ Ö ØÙÖÒ ØÓ Ø Ò Ñ ÒÙØ º Ö×ظ ×ÓÑ ÒÓØ Ø ÓÒº ËÙÔÔÓ× Û ÖÓÙÔ ØÓ Ø Ö
ÙÖÖ ÒØ



Ò Ó × Ò Ø Ú
ØÓÖ Yt . Á Ø Ö Ö G Ò Ó ×¸ Yt × G × 1. ÖÓÙÔ
ÙÖÖ ÒØ Ò Ð ÜÓ ×¸



× Û ÐÐ × Ð Ò Ó × Ò Ø Ú
ØÓÖ Xt ¸ Û
× K × 1. ËØ
Ø ÖÖÓÖ× Ó Ø G

ÕÙ Ø ÓÒ× ÒØÓ Ø ÖÖÓÖ Ú
ØÓÖ Et . Ì ÑÓ Ð¸ Û Ø Ø ÓÒ Ð ××ÙÑØ ÓÒ׸
Ò ÛÖ ØØ Ò



×



′ ′

Yt′ Γ = Xt B + Et

Et ∼ N (0, Σ), ∀t

′

E(Et Es ) = 0, t = s



Ï
Ò ×Ø
ÐÐ n Ó × ÖÚ Ø ÓÒ× Ò ÛÖ Ø Ø ÑÓ Ð ×





Y Γ = XB + E

′

E(X E) = 0(K×G)

vec(E) ∼ N (0, Ψ)



Û Ö     

Y1′ X1′ E1′

 ′   ′   ′ 

 Y2   X2   E 

Y =  º ,X =  º ,E =  º 2 

 º   º   º 

 º   º   º 

Yn′ Xn′ En′



Y × n × G, X × n × K, Ò E × n × G.

• Ì × ×Ý×Ø Ñ ×
ÓÑÔÐ Ø ¸ Ò Ø Ø Ø Ö Ö × Ñ ÒÝ ÕÙ Ø ÓÒ× × Ò Ó ×º



• Ì Ö × ÒÓÖÑ Ð ØÝ ××ÙÑÔØ ÓÒº Ì × ×Ò³Ø Ò
×× Öݸ ÙØ ÐÐÓÛ× Ù× ØÓ
ÓÒ× Ö



Ø Ö Ð Ø ÓÒ× Ô ØÛ Ò Ð ×Ø ×ÕÙ Ö × Ò ÅÄ ×Ø Ñ ØÓÖ׺



• Ë Ò
Ø Ö × ÒÓ ÙØÓ
ÓÖÖ Ð Ø ÓÒ Ó Ø Et ³×¸ Ò × Ò
Ø
ÓÐÙÑÒ× Ó E Ö



Ò Ú Ù ÐÐÝ ÓÑÓ×
×Ø
¸ Ø Ò

 

σ11 In σ12 In · · · σ1G In

 º



 σ22 In º 

 º 

Ψ =  ºº º



 º º

º



 

· σGG In

= In ⊗ Σ



• X Ñ Ý
ÓÒØ Ò Ð Ò Ó ÒÓÙ× Ò ÜÓ ÒÓÙ× Ú Ö Ð ×º Ì × Ú Ö Ð × Ö



ÔÖ Ø ÖÑ Ò º

• Ï Ò ØÓ Ò Û Ø × Ñ ÒØ Ý Ò Ó ÒÓÙ× Ò ÜÓ ÒÓÙ× Û Ò
Ð ×× ¹



Ý Ò Ø
ÙÖÖ ÒØ Ô Ö Ó Ú Ö Ð ×º









¾º ÜÓ Ò ØÝ

Ì ÑÓ Ð Ò × Ø Ò Ö Ø Ò ÔÖÓ
×׺ Ì ÑÓ Ð ÒÚÓÐÚ × ØÛÓ × Ø× Ó Ú Ö Ð ×¸



Yt Ò Xt , × Û ÐÐ × Ô Ö Ñ Ø Ö Ú
ØÓÖ

′

θ= vec(Γ)′ vec(B)′ vec∗ (Σ)′



• ÁÒ Ò Ö Ð¸ Û Ø ÓÙØ Ø ÓÒ Ð Ö ×ØÖ
Ø ÓÒ׸ θ × G2 + GK + G2 − G /2 + G

Ñ Ò× ÓÒ Ð Ú
ØÓÖº Ì × × Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ Ø Ø Û Ö ÒØ Ö ×Ø Ò ×Ø Ñ Ø¹



Ò º

¾º Ç Æ ÁÌ ½½







• ÁÒ ÔÖ Ò
ÔÐ ¸ Ø Ö Ü ×Ø× Ó ÒØ Ò× ØÝ ÙÒ
Ø ÓÒ ÓÖ Yt Ò Xt , Û
Ô Ò × ÓÒ



Ô Ö Ñ Ø Ö Ú
ØÓÖ φ. ÏÖ Ø Ø × Ò× ØÝ ×





ft (Yt , Xt |φ, It )



Û Ö It × Ø Ò ÓÖÑ Ø ÓÒ × Ø Ò Ô Ö Ó t. Ì × Ò
ÐÙ × Ð Yt′ s Ò Ð



Xt ³× Ó
ÓÙÖ× º Ì ×
Ò
ØÓÖ ÒØÓ Ø Ò× ØÝ Ó Yt
ÓÒ Ø ÓÒ Ð ÓÒ Xt

Ø Ñ × Ø Ñ Ö Ò Ð Ò× ØÝ Ó Xt



ft (Yt , Xt |φ, It ) = ft (Yt |Xt , φ, It )ft (Xt |φ, It )



Ì × × Ò Ö Ð
ØÓÖ Þ Ø ÓÒ¸ ÙØ × Ñ Ý Ú ÖÝ Û ÐÐ Ø
× Ø Ø ÒÓØ ÐÐ



Ô Ö Ñ Ø Ö× Ò φ
Ø ÓØ
ØÓÖ׺ ËÓ Ù× φ1 ØÓ Ò
Ø Ð Ñ ÒØ× Ó φ Ø Ø



ÒØ Ö ÒØÓ Ø
ÓÒ Ø ÓÒ Ð Ò× ØÝ Ò ÛÖ Ø φ2 ÓÖ Ô Ö Ñ Ø Ö× Ø Ø ÒØ Ö ÒØÓ Ø



Ñ Ö Ò Ðº ÁÒ Ò Ö Ð¸ φ1 Ò φ2 Ñ Ý × Ö Ð Ñ ÒØ׸ Ó
ÓÙÖ× º Ï Ú





ft (Yt , Xt |φ, It ) = ft (Yt |Xt , φ1 , It )ft (Xt |φ2 , It )



• Ê
ÐÐ Ø Ø Ø ÑÓ Ð ×



′ ′

Yt′ Γ = Xt B + Et

Et ∼ N (0, Σ), ∀t

′

E(Et Es ) = 0, t = s



ÆÓÖÑ Ð ØÝ Ò Ð
Ó
ÓÖÖ Ð Ø ÓÒ ÓÚ Ö Ø Ñ ÑÔÐÝ Ø Ø Ø Ó × ÖÚ Ø ÓÒ× Ö Ò Ô Ò ÒØ



Ó ÓÒ ÒÓØ Ö¸ ×Ó Û
Ò ÛÖ Ø Ø ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ × Ø ×ÙÑ Ó Ð Ð ÓÓ
ÓÒØÖ ¹



ÙØ ÓÒ× Ó
Ó × ÖÚ Ø ÓÒ

n

ln L(Y |θ, It ) = ln ft (Yt , Xt |φ, It )

t=1

n

= ln (ft (Yt |Xt , φ1 , It )ft (Xt |φ2 , It ))

t=1

n n

= ln ft (Yt |Xt , φ1 , It ) + ln ft (Xt |φ2 , It ) =

t=1 t=1



Ò Ø ÓÒ ½ ´Ï ÜÓ Ò Øݵº Xt × Û ÐÝ ÜÓ Ò ÓÙ× ÓÖ θ ´Ø ÓÖ Ò Ð Ô ¹



Ö Ñ Ø Ö Ú
ØÓÖµ Ø Ö × Ñ ÔÔ Ò ÖÓÑ φ ØÓ θ Ø Ø × ÒÚ Ö ÒØ ØÓ φ2 . ÅÓÖ ÓÖÑ ÐÐݸ



ÓÖ Ò Ö ØÖ ÖÝ (φ1 , φ2 ), θ(φ) = θ(φ1 ).



Ì × ÑÔÐ × Ø Ø φ1 Ò φ2
ÒÒÓØ × Ö Ð Ñ ÒØ× Xt × Û ÐÝ ÜÓ ÒÓÙ׸ × Ò




φ1 ÛÓÙÐ
Ò × φ2
Ò ×¸ Û
ÔÖ Ú ÒØ×
ÓÒ× Ö Ø ÓÒ Ó Ö ØÖ ÖÝ
ÓÑ Ò Ø ÓÒ× Ó



(φ1 , φ2 )º

ËÙÔÔÓ× Ò Ø Ø Xt × Û ÐÝ ÜÓ ÒÓÙ׸ Ø Ò Ø ÅÄ Ó φ1 Ù× Ò Ø Ó ÒØ Ò× ØÝ ×



Ø × Ñ × Ø ÅÄ Ù× Ò ÓÒÐÝ Ø
ÓÒ Ø ÓÒ Ð Ò× ØÝ

n

ln L(Y |X, θ, It ) = ln ft (Yt |Xt , φ1 , It )

t=1



× Ò
Ø
ÓÒ Ø ÓÒ Ð Ð Ð ÓÓ Ó ×Ò³Ø Ô Ò ÓÒ φ2 . ÁÒ ÓØ Ö ÛÓÖ ×¸ Ø Ó ÒØ Ò
ÓÒ ¹



Ø ÓÒ Ð ÐÓ ¹Ð Ð ÓÓ × Ñ Ü Ñ Þ Ø Ø × Ñ Ú ÐÙ Ó φ1 .



• Ï Ø Û ÜÓ Ò Øݸ ÒÓÛÐ Ó Ø È Ó Xt × ÖÖ Ð Ú ÒØ ÓÖ Ò Ö Ò
ÓÒ



φ1 , Ò ÒÓÛÐ Ó φ1 × ×Ù
ÒØ ØÓ Ö
ÓÚ Ö Ø Ô Ö Ñ Ø Ö Ó ÒØ Ö ×ظ θ. Ë Ò


Ø È Ó Xt × ÖÖ Ð Ú Òظ Û
Ò ØÖ Ø Xt × Ü Ò Ò Ö Ò
º

¿º Ê Í ÇÊÅ ½½









• Ý Ø ÒÚ Ö Ò
ÔÖÓÔ ÖØÝ Ó ÅÄ ¸ Ø ÅÄ Ó θ × ˆ

θ(φ1 ), Ò Ø × Ñ ÔÔ Ò ×



××ÙÑ ØÓ Ü ×Ø Ò Ø Ò Ø ÓÒ Ó Û ÜÓ Ò Øݺ



• Ç
ÓÙÖ× ¸ Û ³ÐÐ Ò ØÓ ÙÖ ÓÙØ Ù×Ø Û Ø Ø × Ñ ÔÔ Ò × ØÓ Ö
ÓÚ Ö ˆ

θ ÖÓÑ ˆ

φ1 .

Ì × × Ø ÑÓÙ× ÒØ
Ø ÓÒ ÔÖÓ Ð Ñº

• Ï Ø Ð
Ó Û ÜÓ Ò Øݸ Ø Ó ÒØ Ò
ÓÒ Ø ÓÒ Ð Ð Ð ÓÓ ÙÒ
Ø ÓÒ× Ñ Ü¹



Ñ Þ Ò Ö ÒØ ÔÐ
׺ ÓÖ Ø × Ö ×ÓÒ¸ Û
Ò³Ø ØÖ Ø Xt × Ü Ò Ò Ö Ò
º



Ì Ó ÒØ ÅÄ × Ú Ð ¸ ÙØ Ø
ÓÒ Ø ÓÒ Ð ÅÄ × ÒÓغ



• ÁÒ Ö ×ÙÑ ¸ Û Ö ÕÙ Ö Ø Ú Ö Ð × Ò Xt ØÓ Û ÐÝ ÜÓ ÒÓÙ× Û Ö ØÓ



Ð ØÓ ØÖ Ø Ø Ñ × Ü Ò ×Ø Ñ Ø ÓÒº Ä Yt × Ø × Ý Ø Ò Ø ÓÒ¸ × Ò




Ø Ý Ö Ò Ø
ÓÒ Ø ÓÒ Ò Ò ÓÖÑ Ø ÓÒ × Ø¸ º º¸ Yt−1 ∈ It . Ä Yt Ö Ò³Ø



ÜÓ ÒÓÙ× Ò Ø ÒÓÖÑ Ð Ù× Ó Ø ÛÓÖ ¸ × Ò
Ø Ö Ú ÐÙ × Ö Ø ÖÑ Ò



Û Ø Ò Ø ÑÓ Ð¸ Ù×Ø ÖÐ Ö ÓÒº Ï ÐÝ ÜÓ ÒÓÙ× Ú Ö Ð × Ò
ÐÙ ÜÓ ÒÓÙ×

´ Ò Ø ÒÓÖÑ Ð × Ò× µ Ú Ö Ð × × Û ÐÐ × ÐÐ ÔÖ Ø ÖÑ Ò Ú Ö Ð ×º









¿º Ê Ù
ÓÖÑ

Ê
ÐÐ Ø Ø Ø ÑÓ Ð ×







′ ′

Yt′ Γ = Xt B + Et

V (Et ) = Σ



Ì × × Ø ÑÓ Ð Ò ×ØÖÙ
ØÙÖ Ð ÓÖѺ



Ò Ø ÓÒ ½ ´ËØÖÙ
ØÙÖ Ð ÓÖѵº Ò ÕÙ Ø ÓÒ × Ò ×ØÖÙ
ØÙÖ Ð ÓÖÑ Û Ò ÑÓÖ Ø Ò



ÓÒ
ÙÖÖ ÒØ Ô Ö Ó Ò Ó ÒÓÙ× Ú Ö Ð × Ò
ÐÙ º







Ì ×ÓÐÙØ ÓÒ ÓÖ Ø
ÙÖÖ ÒØ Ô Ö Ó Ò Ó × × ×Ý ØÓ Ò º ÁØ ×



′ ′

Yt′ = Xt BΓ−1 + Et Γ−1

′

= Xt Π + Vt′ =



ÆÓÛ ÓÒÐÝ ÓÒ
ÙÖÖ ÒØ Ô Ö Ó Ò Ó ÔÔ Ö× Ò
ÕÙ Ø ÓÒº Ì × × Ø Ö Ù
ÓÖѺ



Ò Ø ÓÒ ½ ´Ê Ù
ÓÖѵº Ò ÕÙ Ø ÓÒ × Ò Ö Ù
ÓÖÑ ÓÒÐÝ ÓÒ
ÙÖÖ ÒØ



Ô Ö Ó Ò Ó × Ò
ÐÙ º







Ò Ü ÑÔÐ × ÓÙÖ ×ÙÔÔÐÝ» Ñ Ò ×Ý×Ø Ñº Ì Ö Ù
ÓÖÑ ÓÖ ÕÙ ÒØ ØÝ × Ó Ø Ò



Ý ×ÓÐÚ Ò Ø ×ÙÔÔÐÝ ÕÙ Ø ÓÒ ÓÖ ÔÖ
Ò ×Ù ×Ø ØÙØ Ò ÒØÓ Ñ Ò







qt − β1 − ε2t

qt = α1 + α2 + α3 yt + ε1t

β2

β2 qt − α2 qt = β2 α1 − α2 (β1 + ε2t ) + β2 α3 yt + β2 ε1t

β2 α1 − α2 β1 β2 α3 yt β2 ε1t − α2 ε2t

qt = + +

β2 − α2 β2 − α2 β2 − α2

= π11 + π21 yt + V1t

º ÁÎ ËÌÁÅ ÌÁÇÆ ½¾¼







Ë Ñ Ð ÖÐݸ Ø Ö ÓÖ ÔÖ
×





β1 + β2 pt + ε2t = α1 + α2 pt + α3 yt + ε1t

β2 pt − α2 pt = α1 − β1 + α3 yt + ε1t − ε2t

α1 − β1 α3 yt ε1t − ε2t

pt = + +

β2 − α2 β2 − α2 β2 − α2

= π12 + π22 yt + V2t



Ì ÒØ Ö ×Ø Ò Ø Ò ÓÙØ Ø Ö × Ø Ø Ø ÕÙ Ø ÓÒ× Ò Ú Ù ÐÐÝ × Ø × Ý Ø
Ð ×× ¹




Ð ××ÙÑÔØ ÓÒ׸ × Ò
yt × ÙÒ
ÓÖÖ Ð Ø Û Ø ε1t Ò ε2t Ý ××ÙÑÔØ ÓÒ¸ Ò Ø Ö ÓÖ



E(yt Vit ) = 0, ½¸¾¸ ∀t. Ì ÖÖÓÖ× Ó Ø Ö Ö



β2 ε1t −α2 ε2t

V1t β2 −α2

= ε1t −ε2t

V2t β2 −α2



Ì Ú Ö Ò
Ó V1t ×



β2 ε1t − α2 ε2t β2 ε1t − α2 ε2t

V (V1t ) = E

β2 − α2 β2 − α2

2

β2 σ11 − 2β2 α2 σ12 + α2 σ22

=

(β2 − α2 )2

• Ì × ×
ÓÒ×Ø ÒØ ÓÚ Ö Ø Ñ ¸ ×Ó Ø Ö×Ø Ö ÕÙ Ø ÓÒ × ÓÑÓ×
×Ø
º



• Ä Û × ¸ × Ò
Ø εt Ö Ò Ô Ò ÒØ ÓÚ Ö Ø Ñ ¸ ×Ó Ö Ø Vt .

Ì Ú Ö Ò
Ó Ø ×
ÓÒ Ö ÖÖÓÖ ×



ε1t − ε2t ε1t − ε2t

V (V2t ) = E

β2 − α2 β2 − α2

σ11 − 2σ12 + σ22

=

(β2 − α2 )2

Ò Ø
ÓÒØ ÑÔÓÖ Ò ÓÙ×
ÓÚ Ö Ò
Ó Ø ÖÖÓÖ×
ÖÓ×× ÕÙ Ø ÓÒ× ×



β2 ε1t − α2 ε2t ε1t − ε2t

E(V1t V2t ) = E

β2 − α2 β2 − α2

β2 σ11 − (β2 + α2 ) σ12 + σ22

=

(β2 − α2 )2

• ÁÒ ×ÙÑÑ ÖÝ Ø Ö ÕÙ Ø ÓÒ× Ò Ú Ù ÐÐÝ × Ø × Ý Ø
Ð ××
Ð ××ÙÑÔØ ÓÒ׸ ÙÒ Ö



Ø ××ÙÑØ ÓÒ× Û ³Ú Ñ ¸ ÙØ Ø Ý Ö
ÓÒØ ÑÔÓÖ Ò ÓÙ×ÐÝ
ÓÖÖ Ð Ø º



Ì Ò Ö Ð ÓÖÑ Ó Ø Ö ×



′ ′

Yt′ = Xt BΓ−1 + Et Γ−1

′

= Xt Π + Vt′



×Ó Û Ú Ø Ø

′ ′

Vt = Γ−1 Et ∼ N 0, Γ−1 ΣΓ−1 , ∀t

Ò Ø Ø Ø Vt Ö Ø Ñ Û × Ò Ô Ò ÒØ ´ÒÓØ Ø Ø Ø × ÛÓÙÐ Ò³Ø Ø
× Ø Et

Û Ö ÙØÓ
ÓÖÖ Ð Ø µº





º ÁÎ ×Ø Ñ Ø ÓÒ

Ì ÁÎ ×Ø Ñ ØÓÖ Ñ Ý ÔÔ Ö Ø ÙÒÙ×Ù Ð Ø Ö×ظ ÙØ Ø Û ÐÐ ÖÓÛ ÓÒ ÝÓÙ ÓÚ Ö Ø Ñ º



Ì × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× ÑÓ Ð ×





Y Γ = XB + E

º ÁÎ ËÌÁÅ ÌÁÇÆ ½¾½







ÓÒ× Ö Ò Ø Ö×Ø ÕÙ Ø ÓÒ ´Ø × × Û Ø ÓÙØ ÐÓ×× Ó Ò Ö Ð Øݸ × Ò
Û
Ò ÐÛ Ý× Ö ÓÖ Ö



Ø ÕÙ Ø ÓÒ×µ Û
Ò Ô ÖØ Ø ÓÒ Ø Y Ñ ØÖ Ü ×





Y = y Y1 Y2



• y × Ø Ö×Ø
ÓÐÙÑÒ



• Y1 Ö Ø ÓØ Ö Ò Ó ÒÓÙ× Ú Ö Ð × Ø Ø ÒØ Ö Ø Ö×Ø ÕÙ Ø ÓÒ



• Y2 Ö Ò Ó × Ø Ø Ö Ü
ÐÙ ÖÓÑ Ø × ÕÙ Ø ÓÒ



Ë Ñ Ð ÖÐݸ Ô ÖØ Ø ÓÒ X ×



X= X1 X2

• X1 Ö Ø Ò
ÐÙ ÜÓ ×¸ Ò X2 Ö Ø Ü
ÐÙ ÜÓ ×º



Ò ÐÐݸ Ô ÖØ Ø ÓÒ Ø ÖÖÓÖ Ñ ØÖ Ü ×





E= ε E12



××ÙÑ Ø Ø Γ × ÓÒ × ÓÒ Ø Ñ Ò ÓÒ Ðº Ì × Ö ÒÓÖÑ Ð Þ Ø ÓÒ Ö ×ØÖ
Ø ÓÒ×



Ø Ø × ÑÔÐÝ ×
Ð Ø Ö Ñ Ò Ò
Ó
ÒØ× ÓÒ
ÕÙ Ø ÓÒ¸ Ò Û
×
Ð Ø Ú Ö Ò
×



Ó Ø ÖÖÓÖ Ø ÖÑ׺



Ú Ò Ø × ×
Ð Ò Ò ÓÙÖ Ô ÖØ Ø ÓÒ Ò ¸ Ø
Ó
ÒØ Ñ ØÖ
×
Ò ÛÖ ØØ Ò ×

 

1 Γ12

 

Γ =  −γ1 Γ22 

0 Γ32

β1 B12

B =

0 B22

Ï Ø Ø ×¸ Ø Ö×Ø ÕÙ Ø ÓÒ
Ò ÛÖ ØØ Ò ×





y = Y1 γ1 + X1 β1 + ε

= Zδ + ε



Ì ÔÖÓ Ð Ñ¸ × Û ³Ú × Ò × Ø Ø Z ×
ÓÖÖ Ð Ø Û Ø ε, × Ò
Y1 × ÓÖÑ Ó Ò Ó ×º



ÆÓÛ¸ Рس×
ÓÒ× Ö Ø Ò Ö Ð ÔÖÓ Ð Ñ Ó Ð Ò Ö Ö Ö ×× ÓÒ ÑÓ Ð Û Ø
ÓÖÖ Ð Ø ÓÒ



ØÛ Ò Ö Ö ××ÓÖ× Ò Ø ÖÖÓÖ Ø ÖÑ





y = Xβ + ε

ε ∼ iid(0, In σ 2 )

E(X ′ ε) = 0.



Ì ÔÖ × ÒØ
× Ó ×ØÖÙ
ØÙÖ Ð ÕÙ Ø ÓÒ ÖÓÑ ×Ý×Ø Ñ Ó ÕÙ Ø ÓÒ× Ø× ÒØÓ Ø × ÒÓØ Ø ÓÒ¸



ÙØ ×Ó Ó ÓØ Ö ÔÖÓ Ð Ñ׸ ×Ù
× Ñ ×ÙÖ Ñ ÒØ ÖÖÓÖ ÓÖ Ð Ô Ò ÒØ Ú Ö Ð × Û Ø



ÙØÓ
ÓÖÖ Ð Ø ÖÖÓÖ׺ ÓÒ× Ö ×ÓÑ Ñ ØÖ Ü W Û
× ÓÖÑ Ó Ú Ö Ð × ÙÒ
ÓÖÖ Ð Ø



Û Ø εº Ì × Ñ ØÖ Ü Ò × ÔÖÓ
Ø ÓÒ Ñ ØÖ Ü





PW = W (W ′ W )−1 W ′



×Ó Ø Ø ÒÝØ Ò Ø Ø × ÔÖÓ
Ø ÓÒØÓ Ø ×Ô
×Ô ÒÒ Ý W Û ÐÐ ÙÒ
ÓÖÖ Ð Ø Û Ø



ε, Ý Ø Ò Ø ÓÒ Ó W. ÌÖ Ò× ÓÖÑ Ò Ø ÑÓ Ð Û Ø Ø × ÔÖÓ
Ø ÓÒ Ñ ØÖ Ü Û Ø





PW y = PW Xβ + PW ε



ÓÖ



y ∗ = X ∗ β + ε∗

º ÁÎ ËÌÁÅ ÌÁÇÆ ½¾¾







ÆÓÛ Û Ú Ø Ø ε∗ Ò X∗ Ö ÙÒ
ÓÖÖ Ð Ø ¸ × Ò
Ø × × × ÑÔÐÝ



′

E(X ∗′ ε∗ ) = E(X ′ PW PW ε)

= E(X ′ PW ε)



Ò



PW X = W (W ′ W )−1 W ′ X

× Ø ØØ Ú ÐÙ ÖÓÑ Ö Ö ×× ÓÒ Ó X ÓÒ W. Ì × × Ð Ò Ö
ÓÑ Ò Ø ÓÒ Ó Ø
ÓÐÙÑÒ×



Ó W, ×Ó Ø ÑÙ×Ø ÙÒ
ÓÖÖ Ð Ø Û Ø ε. Ì × ÑÔÐ × Ø Ø ÔÔÐÝ Ò ÇÄË ØÓ Ø ÑÓ Ð





y ∗ = X ∗ β + ε∗



Û ÐÐ Ð ØÓ
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ¸ Ú Ò Û ÑÓÖ ××ÙÑÔØ ÓÒ׺ Ì × × Ø Ò Ö ÐÞ

Ò×ØÖÙÑ ÒØ Ð Ú Ö Ð × ×Ø Ñ ØÓÖº W × ÒÓÛÒ × Ø Ñ ØÖ Ü Ó Ò×ØÖÙÑ ÒØ׺ Ì ×Ø Ñ ØÓÖ



×

ˆ

βIV = (X ′ PW X)−1 X ′ PW y

ÖÓÑ Û
Û Ó Ø Ò



ˆ

βIV = (X ′ PW X)−1 X ′ PW (Xβ + ε)

= β + (X ′ PW X)−1 X ′ PW ε



×Ó



ˆ

βIV − β = (X ′ PW X)−1 X ′ PW ε

−1

= X ′ W (W ′ W )−1 W ′ X X ′ W (W ′ W )−1 W ′ ε



ÆÓÛ Û
Ò ÒØÖÓ Ù

ØÓÖ× Ó n ØÓ Ø



−1

ˆ X ′W W ′ W −1 W ′X X ′W W ′W −1

W ′ε

βIV − β =

n n n n n n

××ÙÑ Ò Ø Ø
Ó Ø Ø ÖÑ× Û Ø n Ò Ø ÒÓÑ Ò ØÓÖ × Ø × × ÄÄƸ ×Ó Ø Ø



W ′W p

• n → QW W ¸ Ò Ø Ô Ñ ØÖ Ü

X′W p

• n → QXW , Ò Ø Ñ ØÖ Ü Û Ø Ö Ò K ´
ÓÐ×(X) µ

W ′ε p

• n →0



Ø Ò Ø ÔÐ Ñ Ó Ø Ö × × Þ ÖÓº Ì × Ð ×Ø Ø ÖÑ × ÔÐ Ñ ¼ × Ò
Û ××ÙÑ Ø Ø W Ò ε

Ö ÙÒ
ÓÖÖ Ð Ø ¸ º º¸



E(Wt′ εt ) = 0,

Ú Ò Ø × ××ÙÑØ ÓÒ× Ø ÁÎ ×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø ÒØ



ˆ p

βIV → β.

√

ÙÖØ ÖÑÓÖ ¸ ×
Ð Ò Ý n, Û Ú



−1 −1 −1

√

ˆ X ′W W ′W W ′X X ′W W ′W W ′ε

n βIV − β = √

n n n n n n

××ÙÑ Ò Ø Ø Ø Ö Ö Ø Ø ÖÑ × Ø × Ä̸ ×Ó Ø Ø



W ′ε d

• √ →

n

N (0, QW W σ 2 )



Ø Ò Û Ø

√ ˆ d

n βIV − β → N 0, (QXW Q−1W Q′ )−1 σ 2

W XW

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾¿







Ì ×Ø Ñ ØÓÖ× ÓÖ QXW Ò QW W Ö Ø Ó Ú ÓÙ× ÓÒ ×º Ò ×Ø Ñ ØÓÖ ÓÖ σ2 ×



2 1 ˆ

′

ˆ

σIV = y − X βIV y − X βIV .

n

Ì × ×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø ÒØ ÓÐÐÓÛ Ò Ø ÔÖÓÓ Ó
ÓÒ× ×Ø Ò
Ý Ó Ø ÇÄË ×Ø Ñ ØÓÖ Ó σ2 ,

Û Ò Ø
Ð ××
Ð ××ÙÑÔØ ÓÒ× ÓÐ º



Ì ÓÖÑÙÐ Ù× ØÓ ×Ø Ñ Ø Ø Ú Ö Ò
Ó ˆ

βIV ×



−1 −1

ˆ ˆ

V (βIV ) = X ′W W ′W W ′X 2

σIV



Ì ÁÎ ×Ø Ñ ØÓÖ ×

´½µ ÓÒ× ×Ø ÒØ



´¾µ ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ



´¿µ × Ò Ò Ö Ð¸ × Ò
Ú Ò Ø ÓÙ E(X ′ PW ε) = 0, E(X ′ PW X)−1 X ′ PW ε Ñ Ý



ÒÓØ Þ ÖÓ¸ × Ò
(X ′ PW X)−1 Ò X ′ PW ε Ö ÒÓØ Ò Ô Ò Òغ



Ò ÑÔÓÖØ ÒØ ÔÓ ÒØ × Ø Ø Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó ˆ

βIV Ô Ò × ÙÔÓÒ QXW Ò



QW W , Ò Ø × Ô Ò ÙÔÓÒ Ø
Ó
Ó W. Ì
Ó
Ó Ò×ØÖÙÑ ÒØ× Ò Ù Ò
× Ø


Ò
Ý Ó Ø ×Ø Ñ ØÓÖº

• Ï Ò Û Ú ØÛÓ × Ø× Ó Ò×ØÖÙÑ ÒØ׸ W1 Ò W2 ×Ù
Ø Ø W1 ⊂ W2 , Ø Ò Ø



ÁÎ ×Ø Ñ ØÓÖ Ù× Ò W2 × Ø Ð ×Ø ×
ÒØÐÝ ×ÝÑÔØÓØ
ÐÐÝ × Ø ×Ø Ñ ØÓÖ



Ø Ø Ù× W1 . ÅÓÖ Ò×ØÖÙÑ ÒØ× Ð × ØÓ ÑÓÖ ×ÝÑÔØÓØ
ÐÐÝ
ÒØ ×Ø Ñ Ø ÓÒ¸



Ò Ò Ö Ðº



• Ì Ö Ö ×Ô
Ð
× × Û Ö Ø Ö × ÒÓ Ò ´× ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× × Ò Ü¹



ÑÔÐ Ó Ø ×¸ × Û ³ÐÐ × µº



• Ì Ô Ò ÐØÝ ÓÖ Ò ×
Ö Ñ Ò ÒØ Ù× Ó Ò×ØÖÙÑ ÒØ× × Ø Ø Ø ×Ñ ÐÐ × ÑÔÐ × Ó



Ø ÁÎ ×Ø Ñ ØÓÖ Ö × × × Ø ÒÙÑ Ö Ó Ò×ØÖÙÑ ÒØ× Ò
Ö × ×º Ì Ö ×ÓÒ ÓÖ Ø ×



× Ø Ø PW X
ÓÑ ×
ÐÓ× Ö Ò
ÐÓ× Ö ØÓ X Ø× Ð × Ø ÒÙÑ Ö Ó Ò×ØÖÙÑ ÒØ×



Ò
Ö × ×º



• ÁÎ ×Ø Ñ Ø ÓÒ
Ò
Ð ÖÐÝ Ù× Ò Ø
× Ó × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ׺ Ì ÓÒÐÝ



××Ù × Û
Ò×ØÖÙÑ ÒØ× ØÓ Ù× º









º Á ÒØ
Ø ÓÒ Ý Ü
ÐÙ× ÓÒ Ö ×ØÖ
Ø ÓÒ×

Ì ÒØ
Ø ÓÒ ÔÖÓ Ð Ñ Ò × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ× × Ò
Ø Ó Ø × Ñ Ò ØÙÖ ×



Ø ÒØ
Ø ÓÒ ÔÖÓ Ð Ñ Ò ÒÝ ×Ø Ñ Ø ÓÒ × ØØ Ò Ó × Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ



Ú Ø ÔÖÓÔ Ö
ÙÖÚ ØÙÖ ×Ó Ø Ø Ø Ö × ÙÒ ÕÙ ÐÓ Ð Ñ Ò ÑÙÑ ÓÖ Ñ Ü ÑÙÑ Ø Ø



ØÖÙ Ô Ö Ñ Ø Ö Ú ÐÙ ÁÒ Ø
ÓÒØ ÜØ Ó ÁÎ ×Ø Ñ Ø ÓÒ¸ Ø × × Ø
× Ø Ð Ñ Ø Ò

1


ÓÚ Ö Ò
Ó Ø ÁÎ ×Ø Ñ ØÓÖ × ÔÓ× Ø Ú Ò Ø Ò plim n W ′ ε = 0º Ì × Ñ ØÖ Ü ×



ˆ

V∞ (βIV ) = (QXW Q−1W Q′ )−1 σ 2

W XW



• Ì Ò
×× ÖÝ Ò ×Ù
ÒØ
ÓÒ Ø ÓÒ ÓÖ ÒØ
Ø ÓÒ × × ÑÔÐÝ Ø Ø Ø × Ñ ØÖ Ü



ÔÓ× Ø Ú Ò Ø ¸ Ò Ø Ø Ø Ò×ØÖÙÑ ÒØ× ´ ×ÝÑÔØÓØ
ÐÐݵ ÙÒ
ÓÖÖ Ð Ø



Û Ø εº

• ÓÖ Ø × Ñ ØÖ Ü ØÓ ÔÓ× Ø Ú Ò Ø ¸ Û Ò Ø Ø Ø
ÓÒ Ø ÓÒ× ÒÓØ ÓÚ



ÓÐ QW W ÑÙ×Ø ÔÓ× Ø Ú Ò Ø Ò QXW ÑÙ×Ø Ó ÙÐÐ Ö Ò ´ K µº



• Ì × ÒØ
Ø ÓÒ
ÓÒ Ø ÓÒ× Ö ÒÓØ Ø Ø ÒØÙ Ø Ú ÒÓÖ × Ø Ú ÖÝ Ó Ú ÓÙ× ÓÛ



ØÓ

Ø Ñº

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾







º½º Æ
×× ÖÝ
ÓÒ Ø ÓÒ׺ Á Û Ù× ÁÎ ×Ø Ñ Ø ÓÒ ÓÖ × Ò Ð ÕÙ Ø ÓÒ Ó Ø



×Ý×Ø Ñ¸ Ø ÕÙ Ø ÓÒ
Ò ÛÖ ØØ Ò ×





y = Zδ + ε



Û Ö



Z= Y1 X1

ÆÓØ Ø ÓÒ

• Ä Ø K Ø ØÓØ Ð ÒÙÑ Ö Ó Û ÐÝ ÜÓ ÒÓÙ× Ú Ö Ð ×º



• Ä Ø K ∗ = cols(X ) Ø ÒÙÑ Ö Ó Ò
ÐÙ ÜÓ ×¸ Ò Ð Ø K ∗∗ = K − K ∗

1

Ø ÒÙÑ Ö Ó Ü
ÐÙ ÜÓ × ´ Ò Ø × ÕÙ Ø ÓÒµº



• Ä ØG

∗ = cols(Y1 )+1 Ø ØÓØ Ð ÒÙÑ ÖÓ Ò
ÐÙ Ò Ó ×¸ Ò Ð Ø G∗∗ = G−G∗

Ø ÒÙÑ Ö Ó Ü
ÐÙ Ò Ó ×º



Í× Ò Ø × ÒÓØ Ø ÓÒ¸
ÓÒ× Ö Ø × Ð
Ø ÓÒ Ó Ò×ØÖÙÑ ÒØ׺



• ÆÓÛ Ø X1 Ö Û ÐÝ ÜÓ ÒÓÙ× Ò
Ò × ÖÚ × Ø Ö ÓÛÒ Ò×ØÖÙÑ ÒØ׺



• ÁØ ØÙÖÒ× ÓÙØ Ø Ø X Ü Ù×Ø× Ø × Ø Ó ÔÓ×× Ð Ò×ØÖÙÑ ÒØ׸ Ò Ø Ø Ø Ú Ö Ð ×



Ò X ÓÒ³Ø Ð ØÓ Ò ÒØ ÑÓ Ð Ø Ò ÒÓ ÓØ Ö Ò×ØÖÙÑ ÒØ× Û ÐÐ ÒØ Ý Ø



ÑÓ Ð Ø Öº ××ÙÑ Ò Ø × × ØÖÙ ´Û ³ÐÐ ÔÖÓÚ Ø Ò ÑÓÑ Òص¸ Ø Ò Ò
×× ÖÝ




ÓÒ Ø ÓÒ ÓÖ ÒØ
Ø ÓÒ × Ø Ø cols(X2 ) ≥ cols(Y1 ) × Ò
ÒÓØ Ø Ò Ø Ð ×Ø



ÓÒ Ò×ØÖÙÑ ÒØ ÑÙ×Ø Ù× ØÛ
¸ ×Ó W Û ÐÐ ÒÓØ Ú ÙÐÐ
ÓÐÙÑÒ Ö Ò





ρ(W ) K

ÓÖ ÒÓØ Ò Ø Ø K ∗∗ = K − K ∗ ,

G∗ − 1 > K ∗∗

ÁÒ Ø ×
× ¸ Ø Ð Ñ Ø Ò Ñ ØÖ Ü × ÒÓØ Ó ÙÐÐ
ÓÐÙÑÒ Ö Ò ¸ Ò Ø ÒØ
Ø ÓÒ
ÓÒ Ø ÓÒ



Ð׺









º¾º ËÙ
ÒØ
ÓÒ Ø ÓÒ׺ Á ÒØ
Ø ÓÒ ×× ÒØ ÐÐÝ Ö ÕÙ Ö × Ø Ø Ø ×ØÖÙ
ØÙÖ Ð Ô ¹



Ö Ñ Ø Ö× Ö
ÓÚ Ö Ð ÖÓÑ Ø Ø º Ì × ÛÓÒ³Ø Ø
× ¸ Ò Ò Ö Ð¸ ÙÒÐ ×× Ø



×ØÖÙ
ØÙÖ Ð ÑÓ Ð × ×Ù
Ø ØÓ ×ÓÑ Ö ×ØÖ
Ø ÓÒ׺ Ï ³Ú ÐÖ Ý ÒØ Ò
×× ÖÝ
ÓÒ ¹



Ø ÓÒ׺ ÌÙÖÒ Ò ØÓ ×Ù
ÒØ
ÓÒ Ø ÓÒ× ´ Ò¸ Û ³Ö ÓÒÐÝ
ÓÒ× Ö Ò ÒØ
Ø ÓÒ Ø ÖÓÙ



Þ ÖÓ Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø Ô Ö Ñ Ø Ö׸ ÓÖ Ø ÑÓÑ Òصº



Ì ÑÓ Ð ×



′

Yt′ Γ = Xt B + Et

V (Et ) = Σ



Ì × Ð × ØÓ Ø Ö Ù
ÓÖÑ



′

Yt′ = Xt BΓ−1 + Et Γ−1

′

= Xt Π + Vt

′

V (Vt ) = Γ−1 ΣΓ−1

= Ω



Ì Ö Ù
ÓÖÑ Ô Ö Ñ Ø Ö× Ö
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð ¸ ÙØ ÒÓÒ Ó Ø Ñ Ö ÒÓÛÒ



ÔÖ ÓÖ ¸ Ò Ø Ö Ö ÒÓ Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø Ö Ú Ð٠׺ Ì ÔÖÓ Ð Ñ × Ø Ø ÑÓÖ Ø Ò ÓÒ



×ØÖÙ
ØÙÖ Ð ÓÖÑ × Ø × Ñ Ö Ù
ÓÖѸ ×Ó ÒÓÛÐ Ó Ø Ö Ù
ÓÖÑ Ô Ö Ñ Ø Ö×



ÐÓÒ ×Ò³Ø ÒÓÙ ØÓ Ø ÖÑ Ò Ø ×ØÖÙ
ØÙÖ Ð Ô Ö Ñ Ø Ö׺ ÌÓ × Ø ×¸
ÓÒ× Ö Ø ÑÓ Ð





Yt′ ΓF ′

= Xt BF + Et F

V (Et F ) = F ′ ΣF

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾







Û Ö F × ×ÓÑ Ö Ö ÖÝ ÒÓÒ× Ò ÙÐ Ö G×G Ñ ØÖ Üº Ì Ö Ó Ø × Ò Û ÑÓ Ð ×





Yt′ = Xt BF (ΓF )−1 + Et F (ΓF )−1

′



′

= Xt BF F −1 Γ−1 + Et F F −1 Γ−1

′

= Xt BΓ−1 + Et Γ−1

′

= Xt Π + Vt



Ä Û × ¸ Ø
ÓÚ Ö Ò
Ó Ø Ö Ó Ø ØÖ Ò× ÓÖÑ ÑÓ Ð ×





V (Et F (ΓF )−1 ) = V (Et Γ−1 )

= Ω



Ë Ò
Ø ØÛÓ ×ØÖÙ
ØÙÖ Ð ÓÖÑ× Ð ØÓ Ø × Ñ Ö ¸ Ò Ø Ö × ÐÐ Ø Ø × Ö
ØÐÝ ×Ø Ñ Ð ¸



Ø ÑÓ Ð× Ö × ØÓ Ó × ÖÚ Ø ÓÒ ÐÐÝ ÕÙ Ú Ð Òغ Ï Ø Û Ò ÓÖ ÒØ
Ø ÓÒ Ö



Ö ×ØÖ
Ø ÓÒ× ÓÒ Γ Ò B ×Ù
Ø Ø Ø ÓÒÐÝ Ñ ×× Ð F × Ò ÒØ ØÝ Ñ ØÖ Ü ´ ÐÐ Ó Ø



ÕÙ Ø ÓÒ× Ö ØÓ ÒØ µº Ì Ø
Ó
ÒØ Ñ ØÖ
× × Ô ÖØ Ø ÓÒ ÓÖ



 

1 Γ12

 

 −γ1 Γ22 

Γ  

=

 0 Γ32 



B  

 β1 B12 

0 B22

Ì
Ó
ÒØ× Ó Ø Ö×Ø ÕÙ Ø ÓÒ Ó Ø ØÖ Ò× ÓÖÑ ÑÓ Ð Ö × ÑÔÐÝ Ø ×
Ó
ÒØ×



ÑÙÐØ ÔÐ Ý Ø Ö×Ø
ÓÐÙÑÒ Ó Fº Ì × Ú ×

 

1 Γ12

 

 −γ1 Γ22 

Γ f11   f11

=

 0 Γ32 



B F2   F2

 β1 B12 

0 B22

ÓÖ ÒØ
Ø ÓÒ Ó Ø Ö×Ø ÕÙ Ø ÓÒ Û Ò Ø Ø Ø Ö ÒÓÙ Ö ×ØÖ
Ø ÓÒ× ×Ó Ø Ø



Ø ÓÒÐÝ Ñ ×× Ð



f11

F2

Ø Ð Ò
ÓÐÙÑÒ Ó Ò ÒØ ØÝ Ñ ØÖ Ü¸ ×Ó Ø Ø

   

1 Γ12 1

   

 −γ1 Γ22   −γ1 

  f11  

 0 Γ32  = 0 

  F2  

   

 β1 B12   β1 

0 B22 0

ÆÓØ Ø Ø Ø Ø Ö Ò Ø ÖÓÛ× Ö



Γ32 0

F2 =

B22 0

ËÙÔÔÓ× Ò Ø Ø Ø Ð Ò Ñ ØÖ Ü × Ó ÙÐÐ
ÓÐÙÑÒ Ö Ò ¸ º º¸



Γ32 Γ32

ρ = cols =G−1

B22 B22

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾







Ø Ò Ø ÓÒÐÝ Û Ý Ø ×
Ò ÓÐ ¸ Û Ø ÓÙØ Ø ÓÒ Ð Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø ÑÓ Ð³× Ô Ö Ñ Ø Ö׸



× F2 × Ú
ØÓÖ Ó Þ ÖÓ׺ Ú Ò Ø Ø F2 × Ú
ØÓÖ Ó Þ ÖÓ׸ Ø Ò Ø Ö×Ø ÕÙ Ø ÓÒ



f11

1 Γ12 = 1 ⇒ f11 = 1

F2

Ì Ö ÓÖ ¸ × ÐÓÒ ×



Γ32

ρ =G−1

B22

Ø Ò

f11 1

=

F2 0G−1

Ì Ö×Ø ÕÙ Ø ÓÒ × ÒØ Ò Ø ×
× ¸ ×Ó Ø
ÓÒ Ø ÓÒ × ×Ù
ÒØ ÓÖ ÒØ
Ø ÓÒº



ÁØ × Ð×Ó Ò
×× Öݸ × Ò
Ø
ÓÒ Ø ÓÒ ÑÔÐ × Ø Ø Ø × ×Ù Ñ ØÖ Ü ÑÙ×Ø Ú Ø Ð ×Ø G−1

ÖÓÛ׺ Ë Ò
Ø × Ñ ØÖ Ü ×





G∗∗ + K ∗∗ = G − G∗ + K ∗∗



ÖÓÛ׸ Û Ó Ø Ò



G − G∗ + K ∗∗ ≥ G − 1

ÓÖ



K ∗∗ ≥ G∗ − 1

Û
× Ø ÔÖ Ú ÓÙ×ÐÝ Ö Ú Ò
×× ÖÝ
ÓÒ Ø ÓÒº



Ì ÓÚ Ö ×ÙÐØ × ÖÐÝ ÒØÙ Ø Ú ´ Ö Û Ô
ØÙÖ Ö µº Ì Ò
×× ÖÝ
ÓÒ Ø ÓÒ Ò×ÙÖ ×



Ø ØØ Ö Ö ÒÓÙ Ú Ö Ð × ÒÓØ Ò Ø ÕÙ Ø ÓÒ Ó ÒØ Ö ×Ø ØÓ ÔÓØ ÒØ ÐÐÝ ÑÓÚ Ø ÓØ Ö



ÕÙ Ø ÓÒ׸ ×Ó × ØÓ ØÖ
ÓÙØ Ø ÕÙ Ø ÓÒ Ó ÒØ Ö ×غ Ì ×Ù
ÒØ
ÓÒ Ø ÓÒ Ò×ÙÖ × Ø Ø



Ø Ó× ÓØ Ö ÕÙ Ø ÓÒ× Ò
Ø Ó ÑÓÚ ÖÓÙÒ × Ø Ú Ö Ð ×
Ò Ø Ö Ú Ð٠׺ ËÓÑ



ÔÓ ÒØ×









• Ï Ò Ò ÕÙ Ø ÓÒ × K ∗∗ = G∗ − 1, × × Ü
ØÐÝ ÒØ ¸ Ò Ø Ø ÓÑ ×× ÓÒ Ó



Ò ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ × ÒÓØ ÔÓ×× Ð Û Ø ÓÙØ ÐÓÓ× Ò
ÓÒ× ×Ø Ò
ݺ



• Ï Ò K

∗∗ > G∗ − 1, Ø ÕÙ Ø ÓÒ × ÓÚ Ö ÒØ ¸ × Ò
ÓÒ
ÓÙÐ ÖÓÔ Ö ¹



×ØÖ
Ø ÓÒ Ò ×Ø ÐÐ Ö Ø Ò
ÓÒ× ×Ø Ò
ݺ ÇÚ Ö ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ× Ö Ø Ö ÓÖ



Ø ×Ø Ð º Ï Ò Ò ÕÙ Ø ÓÒ × ÓÚ Ö ÒØ Û Ú ÑÓÖ Ò×ØÖÙÑ ÒØ× Ø Ò Ö



×ØÖ
ØÐÝ Ò
×× ÖÝ ÓÖ
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒº Ë Ò
×Ø Ñ Ø ÓÒ Ý ÁÎ Û Ø ÑÓÖ



Ò×ØÖÙÑ ÒØ× × ÑÓÖ
ÒØ ×ÝÑÔØÓØ
ÐÐݸ ÓÒ × ÓÙÐ ÑÔÐÓÝ ÓÚ Ö ÒØ Ý Ò



Ö ×ØÖ
Ø ÓÒ× ÓÒ ×
ÓÒ ÒØ Ø Ø Ø Ý³Ö ØÖÙ º



• Ï
Ò Ö Ô Ø Ø × Ô ÖØ Ø ÓÒ ÓÖ
ÕÙ Ø ÓÒ Ò Ø ×Ý×Ø Ñ¸ ØÓ × Û
ÕÙ ¹



Ø ÓÒ× Ö ÒØ Ò Û
Ö Ò³Øº



• Ì × Ö ×ÙÐØ× Ö Ú Ð ××ÙÑ Ò Ø Ø Ø ÓÒÐÝ ÒØ Ý Ò Ò ÓÖÑ Ø ÓÒ
ÓÑ × ÖÓÑ



ÒÓÛ Ò Û
Ú Ö Ð × ÔÔ Ö ÒÛ
ÕÙ Ø ÓÒ׸ º º¸ Ý Ü
ÐÙ× ÓÒ Ö ×ØÖ
Ø ÓÒ׸



Ò Ø ÖÓÙ Ø Ù× Ó ÒÓÖÑ Ð Þ Ø ÓÒº Ì Ö Ö ÓØ Ö ×ÓÖØ× Ó ÒØ Ý Ò



Ò ÓÖÑ Ø ÓÒ Ø Ø
Ò Ù× º Ì × Ò
ÐÙ



´½µ ÖÓ×× ÕÙ Ø ÓÒ Ö ×ØÖ
Ø ÓÒ×



´¾µ Ø ÓÒ Ð Ö ×ØÖ
Ø ÓÒ× ÓÒ Ô Ö Ñ Ø Ö× Û Ø Ò ÕÙ Ø ÓÒ× ´ × Ò Ø ÃÐ Ò ÑÓ Ð



×
Ù×× ÐÓÛµ



´¿µ Ê ×ØÖ
Ø ÓÒ× ÓÒ Ø
ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø ÖÖÓÖ×



´ µ ÆÓÒÐ Ò Ö Ø × Ò Ú Ö Ð ×

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾







• Ï Ò Ø × ×ÓÖØ× Ó Ò ÓÖÑ Ø ÓÒ Ö Ú Ð Ð ¸ Ø ÓÚ
ÓÒ Ø ÓÒ× Ö Ò³Ø Ò
×¹



× ÖÝ ÓÖ ÒØ
Ø ÓÒ¸ Ø ÓÙ Ø Ý Ö Ó
ÓÙÖ× ×Ø ÐÐ ×Ù
Òغ







ÌÓ Ú Ò Ü ÑÔÐ Ó ÓÛ ÓØ Ö Ò ÓÖÑ Ø ÓÒ
Ò Ù× ¸
ÓÒ× Ö Ø ÑÓ Ð





Y Γ = XB + E



Û Ö Γ × Ò ÙÔÔ Ö ØÖ Ò ÙÐ Ö Ñ ØÖ Ü Û Ø ½³× ÓÒ Ø Ñ Ò ÓÒ Ðº Ì × × ØÖ Ò ÙÐ Ö

×Ý×Ø Ñ Ó ÕÙ Ø ÓÒ׺ ÁÒ Ø ×
× ¸ Ø Ö×Ø ÕÙ Ø ÓÒ ×





y1 = XB·1 + E·1



Ë Ò
ÓÒÐÝ ÜÓ × ÔÔ Ö ÓÒ Ø Ö ×¸ Ø × ÕÙ Ø ÓÒ × ÒØ º



Ì ×
ÓÒ ÕÙ Ø ÓÒ ×







y2 = −γ21 y1 + XB·2 + E·2

Ì × ÕÙ Ø ÓÒ × K

∗∗ =0 Ü
ÐÙ ÜÓ ×¸ Ò G∗ = 2 Ò
ÐÙ Ò Ó ×¸ ×Ó Ø Ð× Ø



ÓÖ Ö ´Ò
×× Öݵ
ÓÒ Ø ÓÒ ÓÖ ÒØ
Ø ÓÒº







• ÀÓÛ Ú Ö¸ ×ÙÔÔÓ× Ø Ø Û Ú Ø Ö ×ØÖ
Ø ÓÒ Σ21 = 0, ×Ó Ø Ø Ø Ö×Ø Ò



×
ÓÒ ×ØÖÙ
ØÙÖ Ð ÖÖÓÖ× Ö ÙÒ
ÓÖÖ Ð Ø º ÁÒ Ø ×
×



′

E(y1t ε2t ) = E (Xt B·1 + ε1t )ε2t = 0



×Ó Ø Ö ³× ÒÓ ÔÖÓ Ð Ñ Ó × ÑÙÐØ Ò Øݺ Á Ø ÒØ Ö Σ Ñ ØÖ Ü × ÓÒ Ð¸ Ø Ò



ÓÐÐÓÛ Ò Ø × Ñ ÐÓ
¸ ÐÐ Ó Ø ÕÙ Ø ÓÒ× Ö ÒØ º Ì × × ÒÓÛÒ ×



ÙÐÐÝ Ö
ÙÖ× Ú ÑÓ Ðº









º¿º Ü ÑÔÐ ÃÐ Ò³× ÅÓ Ð ½º ÌÓ Ú Ò Ü ÑÔÐ Ó Ø ÖÑ Ò Ò ÒØ
Ø ÓÒ



×Ø ØÙ׸
ÓÒ× Ö Ø ÓÐÐÓÛ Ò Ñ
ÖÓ ÑÓ Ð ´Ø × × Ø Û ÐÝ ÒÓÛÒ ÃÐ Ò³× ÅÓ Ð ½µ





ÓÒ×ÙÑÔØ ÓÒ Ct = α0 + α1 Pt + α2 Pt−1 + α3 (Wtp + Wtg ) + ε1t

ÁÒÚ ×ØÑ ÒØ It = β0 + β1 Pt + β2 Pt−1 + β3 Kt−1 + ε2t

ÈÖ Ú Ø Ï × Wtp = γ0 + γ1 Xt + γ2 Xt−1 + γ3 At + ε3t

ÇÙØÔÙØ Xt = Ct + It + Gt

ÈÖÓ Ø× Pt = Xt − Tt − Wtp

Ô Ø Ð ËØÓ
Kt = Kt−1 + It

   

 

ǫ1t 0 σ11 σ12 σ13

     

 ǫ2t  ∼ IID  0  ,  σ22 σ23 

ǫ3t 0 σ33

Ì ÓØ Ö Ú Ö Ð × Ö Ø ÓÚ ÖÒÑ ÒØ Û Ðи Wtg , Ø Ü ×¸ Tt , ÓÚ ÖÒÑ ÒØ ÒÓÒÛ



×Ô Ò Ò ¸ Gt , Ò Ø Ñ ØÖ Ò ¸ At . Ì Ò Ó ÒÓÙ× Ú Ö Ð × Ö Ø Ð × Ú Ö Ð ×¸





Yt′ = Ct It Wtp Xt Pt Kt



Ò Ø ÔÖ Ø ÖÑ Ò Ú Ö Ð × Ö ÐÐ ÓØ Ö×



′

Xt = 1 Wtg Gt Tt At Pt−1 Kt−1 Xt−1 .

º Á ÆÌÁ Á ÌÁÇÆ ÄÍËÁÇÆ Ê ËÌÊÁ ÌÁÇÆË ½¾







Ì ÑÓ Ð ××ÙÑ × Ø Ø Ø ÖÖÓÖ× Ó Ø ÕÙ Ø ÓÒ× Ö
ÓÒØ ÑÔÓÖ Ò ÓÙ×ÐÝ
ÓÖÖ Ð Ø ¸ Ý



ÒÓÒ ÙØÓ
ÓÖÖ Ð Ø º Ì ÑÓ Ð ÛÖ ØØ Ò × Y Γ = XB + E Ú ×

 

1 0 0 −1 0 0

 

 0 1 0 −1 0 −1 

 

 −α3 0 1 0 1 0 

Γ=







 0 0 −γ1 1 −1 0 

 

 −α1 −β1 0 0 1 0 

0 0 0 0 0 1

 

α0 β0 γ0 0 0 0

 

 α3 0 0 0 0 0 

 

 0 0 0 1 0 0 

 

 0 0 0 0 −1 0 

 

B= 

 0 0 γ3 0 0 0 

 

 α2 β2 0 0 0 0 

 

 

 0 β3 0 0 0 1 

0 0 γ2 0 0 0

ÌÓ

Ø × ÒØ
Ø ÓÒ Ó Ø
ÓÒ×ÙÑÔØ ÓÒ ÕÙ Ø ÓÒ¸ Û Ò ØÓ ÜØÖ
Ø Γ32 Ò B22 ,

Ø ×Ù Ñ ØÖ
× Ó
Ó
ÒØ× Ó Ò Ó × Ò ÜÓ × Ø Ø ÓÒ³Ø ÔÔ Ö Ò Ø × ÕÙ Ø ÓÒº



Ì × Ö Ø ÖÓÛ× Ø Ø Ú Þ ÖÓ× Ò Ø Ö×Ø
ÓÐÙÑÒ¸ Ò Û Ò ØÓ ÖÓÔ Ø Ö×Ø




ÓÐÙÑÒº Ï Ø

 

1 0 −1 0 −1

 

 0 −γ1 1 −1 0 

 

 0 0 0 0 1 

 

Γ32  0 0 1 0 0 

 

= 

B22  0 0 0 −1 0 

 

 0 γ3 0 0 0 

 

 

 β3 0 0 0 1 

0 γ2 0 0 0

Ï Ò ØÓ Ò × Ø Ó ÖÓÛ× Ó Ø × Ñ ØÖ Ü Ú × ÙÐÐ¹Ö Ò ×5 Ñ ØÖ Üº ÓÖ Ü ÑÔÐ ¸



× Ð
Ø Ò ÖÓÛ× ¿¸ ¸ ¸ ¸ Ò Û Ó Ø Ò Ø Ñ ØÖ Ü

 

0 0 0 0 1

 

 0 0 1 0 0 

 

A=

 0 0 0 −1 0 



 

 0 γ3 0 0 0 

β3 0 0 0 1

Ì × Ñ ØÖ Ü × Ó ÙÐÐ Ö Ò ¸ ×Ó Ø ×Ù
ÒØ
ÓÒ Ø ÓÒ ÓÖ ÒØ
Ø ÓÒ × Ñ Øº ÓÙÒØ Ò



Ò
ÐÙ Ò Ó ×¸ G

∗ = 3, Ò
ÓÙÒØ Ò Ü
ÐÙ ÜÓ ×¸ K

∗∗ = 5, ×Ó





K ∗∗ − L = G∗ − 1

5−L =3−1

L =3



• Ì ÕÙ Ø ÓÒ × ÓÚ Ö¹ ÒØ Ý Ø Ö Ö ×ØÖ
Ø ÓÒ׸

ÓÖ Ò ØÓ Ø
ÓÙÒØ Ò



ÖÙР׸ Û
Ö
ÓÖÖ
Ø Û Ò Ø ÓÒÐÝ ÒØ Ý Ò Ò ÓÖÑ Ø ÓÒ Ö Ø Ü
ÐÙ× ÓÒ



Ö ×ØÖ
Ø ÓÒ׺ ÀÓÛ Ú Ö¸ Ø Ö × Ø ÓÒ Ð Ò ÓÖÑ Ø ÓÒ Ò Ø ×
× º ÓØ Wtp Ò

º ¾ËÄË ½¿¼







Wtg ÒØ Ö Ø
ÓÒ×ÙÑÔØ ÓÒ ÕÙ Ø ÓÒ¸ Ò Ø Ö
Ó
ÒØ× Ö Ö ×ØÖ
Ø ØÓ Ø



× Ñ º ÓÖ Ø × Ö ×ÓÒ Ø
ÓÒ×ÙÑÔØ ÓÒ ÕÙ Ø ÓÒ × Ò
Ø ÓÚ Ö ÒØ Ý ÓÙÖ



Ö ×ØÖ
Ø ÓÒ׺







º ¾ËÄË

Ï Ò Û Ú ÒÓ Ò ÓÖÑ Ø ÓÒ Ö Ö Ò
ÖÓ××¹ ÕÙ Ø ÓÒ Ö ×ØÖ
Ø ÓÒ× ÓÖ Ø ×ØÖÙ
ØÙÖ Ó



Ø ÖÖÓÖ
ÓÚ Ö Ò
Ñ ØÖ Ü¸ ÓÒ
Ò ×Ø Ñ Ø Ø Ô Ö Ñ Ø Ö× Ó × Ò Ð ÕÙ Ø ÓÒ Ó Ø



×Ý×Ø Ñ Û Ø ÓÙØ Ö Ö ØÓ Ø ÓØ Ö ÕÙ Ø ÓÒ׺



• Ì × ×Ò³Ø ÐÛ Ý×
Òظ × Û ³ÐÐ × ¸ ÙØ Ø × Ø Ú ÒØ Ø Ø Ñ ××Ô
¹




Ø ÓÒ× Ò ÓØ Ö ÕÙ Ø ÓÒ× Û ÐÐ ÒÓØ
Ø Ø
ÓÒ× ×Ø Ò
Ý Ó Ø ×Ø Ñ ØÓÖ Ó Ø



Ô Ö Ñ Ø Ö× Ó Ø ÕÙ Ø ÓÒ Ó ÒØ Ö ×غ



• Ð×Ó¸ ×Ø Ñ Ø ÓÒ Ó Ø ÕÙ Ø ÓÒ ÛÓÒ³Ø
Ø Ý ÒØ
Ø ÓÒ ÔÖÓ Ð Ñ× Ò



ÓØ Ö ÕÙ Ø ÓÒ׺



Ì ¾ËÄË ×Ø Ñ ØÓÖ × Ú ÖÝ × ÑÔÐ Ò Ø Ö×Ø ×Ø ¸

ÓÐÙÑÒ Ó Y1 × Ö Ö ×× ÓÒ ÐÐ

Ø Û ÐÝ ÜÓ ÒÓÙ× Ú Ö Ð × Ò Ø ×Ý×Ø Ñ¸ º º¸ Ø ÒØ Ö X Ñ ØÖ Üº Ì ØØ Ú ÐÙ ×



Ö



ˆ

Y1 = X(X ′ X)−1 X ′ Y1

= PX Y1

ˆ

= X Π1



Ë Ò
Ø × ØØ Ú ÐÙ × Ö Ø ÔÖÓ
Ø ÓÒ Ó Y1 ÓÒ Ø ×Ô
×Ô ÒÒ Ý X, Ò × Ò




ÒÝ Ú
ØÓÖ Ò Ø × ×Ô
× ÙÒ
ÓÖÖ Ð Ø Û Ø ε Ý ××ÙÑÔØ ÓÒ¸ ˆ

Y1 × ÙÒ
ÓÖÖ Ð Ø Û Ø ε.

Ë Ò
ˆ

Y1 × × ÑÔÐÝ Ø Ö Ù
¹ ÓÖÑ ÔÖ
Ø ÓÒ¸ Ø ×
ÓÖÖ Ð Ø Û Ø Y1 , Ì ÓÒÐÝ ÓØ Ö



Ö ÕÙ Ö Ñ ÒØ × Ø Ø Ø Ò×ØÖÙÑ ÒØ× Ð Ò ÖÐÝ Ò Ô Ò Òغ Ì × × ÓÙÐ Ø
× Û Ò



Ø ÓÖ Ö
ÓÒ Ø ÓÒ × × Ø × ¸ × Ò
Ø Ö Ö ÑÓÖ
ÓÐÙÑÒ× Ò X2 Ø Ò Ò Y1 Ò Ø ×
× º



Ì ×
ÓÒ ×Ø ×Ù ×Ø ØÙØ × ˆ

Y1 Ò ÔÐ
Ó Y1 , Ò ×Ø Ñ Ø × Ý ÇÄ˺ Ì × ÓÖ Ò Ð



ÑÓ Ð ×





y = Y1 γ1 + X1 β1 + ε

= Zδ + ε



Ò Ø ×
ÓÒ ×Ø ÑÓ Ð ×



ˆ

y = Y1 γ1 + X1 β1 + ε.



Ë Ò
X1 × Ò Ø ×Ô
×Ô ÒÒ Ý X, PX X1 = X1 , ×Ó Û
Ò ÛÖ Ø Ø ×
ÓÒ ×Ø



ÑÓ Ð ×





y = PX Y1 γ1 + PX X1 β1 + ε

≡ PX Zδ + ε



Ì ÇÄË ×Ø Ñ ØÓÖ ÔÔÐ ØÓ Ø × ÑÓ Ð ×



ˆ

δ = (Z ′ PX Z)−1 Z ′ PX y



Û
× Ü
ØÐÝ Û Ø Û Ø Û ×Ø Ñ Ø Ù× Ò Áθ Û Ø Ø Ö Ù
ÓÖÑ ÔÖ
Ø ÓÒ× Ó



Ø Ò Ó × Ù× × Ò×ØÖÙÑ ÒØ׺ ÆÓØ Ø Ø Û Ò



ˆ

Z = PX Z

= ˆ

Y1 X1

º Ì ËÌÁÆ ÌÀ ÇÎ ÊÁ ÆÌÁ ÁÆ Ê ËÌÊÁ ÌÁÇÆË ½¿½









×Ó Ø Ø ˆ

Z Ö Ø Ò×ØÖÙÑ ÒØ× ÓÖ Z, Ø Ò Û
Ò ÛÖ Ø



ˆ ˆ ˆ

δ = (Z ′ Z)−1 Z ′ y



• ÁÑÔÓÖØ ÒØ ÒÓØ ÇÄË ÓÒ Ø ØÖ Ò× ÓÖÑ ÑÓ Ð
Ò Ù× ØÓ
Ð
ÙÐ Ø Ø



¾ËÄË ×Ø Ñ Ø Ó δ, × Ò
Û × Ø Ø Ø³× ÕÙ Ú Ð ÒØ ØÓ ÁÎ Ù× Ò Ô ÖØ
ÙÐ Ö × Ø



Ó Ò×ØÖÙÑ ÒØ׺ ÀÓÛ Ú Ö Ø ÇÄË
ÓÚ Ö Ò
ÓÖÑÙÐ × ÒÓØ Ú Ð º Ï Ò ØÓ



ÔÔÐÝ Ø ÁÎ
ÓÚ Ö Ò
ÓÖÑÙÐ ÐÖ Ý × Ò ÓÚ º




ØÙ ÐÐݸ Ø Ö × Ð×Ó × ÑÔÐ
Ø ÓÒ Ó Ø Ò Ö Ð ÁÎ Ú Ö Ò
ÓÖÑÙÐ º Ò



ˆ

Z = PX Z

= ˆ

Y X



Ì ÁÎ
ÓÚ Ö Ò
×Ø Ñ ØÓÖ ÛÓÙÐ ÓÖ Ò Ö ÐÝ



−1 −1

ˆ ˆ ˆ

V (δ) = Z ′ Z ˆ ˆ

Z ′Z ˆ

Z ′Z ˆ2

σIV



ÀÓÛ Ú Ö¸ ÐÓÓ Ò Ø Ø Ð ×Ø Ø ÖÑ Ò Ö
Ø×







ˆ ˆ

′ Y1′ (PX )Y1 Y1′ (PX )X1

Z ′Z = Y1 X1 Y1 X1 = ′ ′

X1 Y1 X1 X1

ÙØ × Ò
PX × ÑÔÓØ ÒØ Ò × Ò
PX X = X, Û
Ò ÛÖ Ø





ˆ

′ Y1′ PX PX Y1 Y1′ PX X1

Y1 X1 Y1 X1 = ′ ′

X1 PX Y1 X1 X1

′

= ˆ

Y1 X1 ˆ

Y1 X1

ˆ ˆ

= Z ′Z



Ì Ö ÓÖ ¸ Ø ×
ÓÒ Ò Ð ×Ø Ø ÖÑ Ò Ø Ú Ö Ò
ÓÖÑÙÐ
Ò
и ×Ó Ø ¾ËÄË Ú Ö
ÓÚ



×Ø Ñ ØÓÖ × ÑÔÐ × ØÓ

−1

ˆ ˆ ˆ

V (δ) = Z ′ Z ˆ2

σIV

Û
¸ ÓÐÐÓÛ Ò ×ÓÑ Ð Ö × Ñ Ð Ö ØÓ Ø ÓÚ ¸
Ò Ð×Ó ÛÖ ØØ Ò ×



−1

ˆ ˆ ˆ ˆ

V (δ) = Z ′ Z ˆ2

σIV



Ò ÐÐݸ Ö
ÐÐ Ø Ø Ø ÓÙ Ø × × ÔÖ × ÒØ Ò Ø ÖÑ× Ó Ø Ö×Ø ÕÙ Ø ÓÒ¸ Ø × Ò Ö Ð × Ò




ÒÝ ÕÙ Ø ÓÒ
Ò ÔÐ
Ö×غ



ÈÖÓÔ ÖØ × Ó ¾ËÄË

´½µ ÓÒ× ×Ø ÒØ



´¾µ ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ Ð



´¿µ × Û Ò Ø Ñ Ò × ×Ø× ´Ø Ü ×Ø Ò
Ó ÑÓÑ ÒØ× × Ø
Ò
Ð ××Ù Û



ÛÓÒ³Ø Ó ÒØÓ Ö µº



´ µ ×ÝÑÔØÓØ
ÐÐÝ Ò
Òظ Ü
ÔØ Ò ×Ô
Ð
Ö
ÙÑ×Ø Ò
× ´ÑÓÖ ÓÒ Ø × Ð Ø Öµº









º Ì ×Ø Ò Ø ÓÚ Ö ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ×

Ì × Ð
Ø ÓÒ Ó Û
Ú Ö Ð × Ö Ò Ó × Ò Û
Ö ÜÓ × × Ô ÖØ Ó Ø ×Ô
¹


Ø ÓÒ Ó Ø ÑÓ Ðº × ×Ù
¸ Ø Ö × ÖÓÓÑ ÓÖ ÖÖÓÖ Ö ÓÒ Ñ Ø ÖÖÓÒ ÓÙ×ÐÝ
Ð ×× Ý



Ú Ö Ð × ÜÓ Û Ò Ø × Ò
Ø
ÓÖÖ Ð Ø Û Ø Ø ÖÖÓÖ Ø ÖѺ Ò Ö Ð Ø ×Ø ÓÖ Ø



×Ô

Ø ÓÒ ÓÒ Ø ÑÓ Ð
Ò ÓÖÑÙÐ Ø × ÓÐÐÓÛ×

º Ì ËÌÁÆ ÌÀ ÇÎ ÊÁ ÆÌÁ ÁÆ Ê ËÌÊÁ ÌÁÇÆË ½¿¾







Ì ÁÎ ×Ø Ñ ØÓÖ
Ò
Ð
ÙÐ Ø Ý ÔÔÐÝ Ò ÇÄË ØÓ Ø ØÖ Ò× ÓÖÑ ÑÓ Ð¸ ×Ó Ø



ÁÎ Ó
Ø Ú ÙÒ
Ø ÓÒ Ø Ø Ñ Ò Ñ Þ Ú ÐÙ ×

′

ˆ ˆ

s(βIV ) = y − X βIV ˆ

PW y − X βIV ,



ÙØ





εIV

ˆ ˆ

= y − X βIV

= y − X(X ′ PW X)−1 X ′ PW y

= I − X(X ′ PW X)−1 X ′ PW y

= I − X(X ′ PW X)−1 X ′ PW (Xβ + ε)

= A (Xβ + ε)



Û Ö



A ≡ I − X(X ′ PW X)−1 X ′ PW

×Ó

ˆ

s(βIV ) = ε′ + β ′ X ′ A′ PW A (Xβ + ε)

ÅÓÖ ÓÚ Ö¸ A′ PW A × ÑÔÓØ Òظ ×
Ò Ú Ö Ý ÑÙÐØ ÔÐ
Ø ÓÒ





A′ PW A = I − PW X(X ′ PW X)−1 X ′ PW I − X(X ′ PW X)−1 X ′ PW

= PW − PW X(X ′ PW X)−1 X ′ PW PW − PW X(X ′ PW X)−1 X ′ PW

= I − PW X(X ′ PW X)−1 X ′ PW .



ÙÖØ ÖÑÓÖ ¸ A × ÓÖØ Ó ÓÒ Ð ØÓ X



AX = I − X(X ′ PW X)−1 X ′ PW X

= X −X

= 0



×Ó

ˆ

s(βIV ) = ε′ A′ PW Aε

ËÙÔÔÓ× Ò Ø ε Ö ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ¸ Û Ø Ú Ö Ò
σ2 , Ø Ò Ø Ö Ò ÓÑ Ú Ö Ð



ˆ

s(βIV ) ε′ A′ PW Aε

=

σ2 σ2

× ÕÙ Ö Ø
ÓÖÑ Ó N (0, 1) Ö Ò ÓÑ Ú Ö Ð Û Ø Ò ÑÔÓØ ÒØ Ñ ØÖ Ü Ò Ø Ñ Ð ¸



×Ó

ˆ

s(βIV )

∼ χ2 (ρ(A′ PW A))

σ2

Ì × ×Ò³Ø Ú Ð Ð ¸ × Ò
Û Ò

2

ØÓ ×Ø Ñ Ø σ º ËÙ ×Ø ØÙØ Ò
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ¸



ˆ

s(βIV ) a

∼ χ2 (ρ(A′ PW A))

σ2

• Ú Ò Ø ε Ö Ò³Ø ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ¸ Ø ×ÝÑÔØÓØ
Ö ×ÙÐØ ×Ø ÐÐ ÓР׺ Ì



Ð ×Ø Ø Ò Û Ò ØÓ Ø ÖÑ Ò × Ø Ö Ò Ó Ø ÑÔÓØ ÒØ Ñ ØÖ Üº Ï Ú





A′ PW A = PW − PW X(X ′ PW X)−1 X ′ PW

º Ì ËÌÁÆ ÌÀ ÇÎ ÊÁ ÆÌÁ ÁÆ Ê ËÌÊÁ ÌÁÇÆË ½¿¿







×Ó





ρ(A′ PW A) = T r PW − PW X(X ′ PW X)−1 X ′ PW

= T rPW − T rX ′ PW PW X(X ′ PW X)−1

= T rW (W ′ W )−1 W ′ − KX

= T rW ′ W (W ′ W )−1 − KX

= KW − KX



Û Ö KW × Ø ÒÙÑ Ö Ó
ÓÐÙÑÒ× Ó W Ò KX × Ø ÒÙÑ Ö Ó
ÓÐÙÑÒ×



Ó X. Ì Ö × Ó Ö ÓÑ Ó Ø Ø ×Ø × × ÑÔÐÝ Ø ÒÙÑ Ö Ó ÓÚ Ö ÒØ Ý Ò



Ö ×ØÖ
Ø ÓÒ× Ø ÒÙÑ ÖÓ Ò×ØÖÙÑ ÒØ× Û Ú ÝÓÒ Ø ÒÙÑ ÖØ Ø × ×ØÖ
ØÐÝ



Ò
×× ÖÝ ÓÖ
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒº



• Ì × Ø ×Ø × Ò ÓÚ Ö ÐÐ ×Ô

Ø ÓÒ Ø ×Ø Ø Ó ÒØ ÒÙÐÐ ÝÔÓØ × × × Ø Ø Ø



ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
Ò Ø Ø Ø W ÓÖÑ Ú Ð Ò×ØÖÙÑ ÒØ× ´ º º¸ Ø Ø Ø



Ú Ö Ð ×
Ð ×× × ÜÓ × Ö ÐÐÝ Ö ÙÒ
ÓÖÖ Ð Ø Û Ø ε. Ê
Ø ÓÒ
Ò Ñ Ò



Ø Ø Ø Ö Ø ÑÓ Ð y = Zδ + ε × Ñ ××Ô
¸ ÓÖ Ø Ø Ø Ö ×
ÓÖÖ Ð Ø ÓÒ



ØÛ Ò X Ò ε.

• Ì × × Ô ÖØ
ÙÐ Ö
× Ó Ø ÅÅ
Ö Ø Ö ÓÒ Ø ×ظ Û
×
ÓÚ Ö Ò Ø ×
ÓÒ



Ð Ó Ø
ÓÙÖ× º Ë Ë
Ø ÓÒ º



• ÆÓØ Ø Ø × Ò




ˆ

εIV = Aε

Ò

ˆ

s(βIV ) = ε′ A′ PW Aε

Û
Ò ÛÖ Ø



ˆ

s(βIV ) ε′ W (W ′ W )−1 W ′ W (W ′ W )−1 W ′ ε

ˆ ˆ

= ′ ε/n

σ2 ˆ

εˆ

= n(RSSεIV |W /T SSεIV )

ˆ ˆ

2

= nRu



Û Ö

2

Ru × Ø ÙÒ
ÒØ Ö R2 ÖÓÑ Ö Ö ×× ÓÒ Ó Ø IV Ö × Ù Ð× ÓÒ ÐÐ Ó Ø



Ò×ØÖÙÑ ÒØ× Wº Ì × ×
ÓÒÚ Ò ÒØ Û Ý ØÓ
Ð
ÙÐ Ø Ø Ø ×Ø ×Ø Ø ×Ø
º









ÇÒ Ò × ¸
ÓÒ× Ö ÁÎ ×Ø Ñ Ø ÓÒ Ó Ù×ع ÒØ ÑÓ Ð¸ Ù× Ò Ø ×Ø Ò Ö ÒÓØ Ø ÓÒ







y = Xβ + ε

Ò W × Ø Ñ ØÖ Ü Ó Ò×ØÖÙÑ ÒØ׺ Á Û Ú Ü
Ø ÒØ
Ø ÓÒ Ø Ò cols(W ) =

′

cols(X)¸ ×Ó W X × ×ÕÙ Ö Ñ ØÖ Üº Ì ØÖ Ò× ÓÖÑ ÑÓ Ð ×





PW y = PW Xβ + PW ε



Ò Ø ÓÒ
Ö

ˆ

X ′ PW (y − X βIV ) = 0

Ì ÁÎ ×Ø Ñ ØÓÖ ×

ˆ −1

βIV = X ′ PW X X ′ PW y

º Ë ËÌ Å Å ÌÀÇ Ë Ç ËÌÁÅ ÌÁÇÆ ½¿







ÓÒ× Ö Ò Ø ÒÚ Ö× Ö



−1 −1

X ′ PW X = X ′ W (W ′ W )−1 W ′ X

−1

= (W ′ X)−1 X ′ W (W ′ W )−1

−1

= (W ′ X)−1 (W ′ W ) X ′ W



ÆÓÛ ÑÙÐØ ÔÐÝ Ò Ø × Ý X ′ PW y, Û Ó Ø Ò



ˆ −1

βIV = (W ′ X)−1 (W ′ W ) X ′ W X ′ PW y

−1

= (W ′ X)−1 (W ′ W ) X ′ W X ′ W (W ′ W )−1 W ′ y

= (W ′ X)−1 W ′ y



Ì Ó
Ø Ú ÙÒ
Ø ÓÒ ÓÖ Ø Ò Ö Ð Þ ÁÎ ×Ø Ñ ØÓÖ ×

′

ˆ

s(βIV ) = ˆ

y − X βIV ˆ

PW y − X βIV

ˆ

= y ′ PW y − X βIV ˆ′ ˆ

− βIV X ′ PW y − X βIV

ˆ

= y ′ PW y − X βIV ˆ′ ˆ′ ˆ

− βIV X ′ PW y + βIV X ′ PW X βIV

ˆ

= y ′ PW y − X βIV ˆ′ ˆ

− βIV X ′ PW y + X ′ PW X βIV

ˆ

= y ′ PW y − X βIV



Ý Ø ÓÒ
ÓÖ Ò Ö Ð Þ Áκ ÀÓÛ Ú Ö¸ Û Ò Û ³Ö Ò Ø Ù×Ø Ò ÒØ
× ¸ Ø × ×



ˆ

s(βIV ) = y ′ PW y − X(W ′ X)−1 W ′ y

= y ′ PW I − X(W ′ X)−1 W ′ y

= y ′ W (W ′ W )−1 W ′ − W (W ′ W )−1 W ′ X(W ′ X)−1 W ′ y

= 0



Ì Ú ÐÙ Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒ Ó Ø ÁÎ ×Ø Ñ ØÓÖ × Þ ÖÓ Ò Ø Ù×Ø ÒØ
× º

Ì × Ñ × × Ò× ¸ × Ò
Û ³Ú ÐÖ Ý × ÓÛÒ Ø Ø Ø Ó
Ø Ú ÙÒ
Ø ÓÒ Ø Ö Ú Ò Ý



σ2 ×

2

×ÝÑÔØÓØ
ÐÐÝ χ Û Ø Ö × Ó Ö ÓÑ ÕÙ Ð ØÓ Ø ÒÙÑ Ö Ó ÓÚ Ö ÒØ Ý Ò



Ö ×ØÖ
Ø ÓÒ׺ ÁÒ Ø ÔÖ × ÒØ
× ¸ Ø Ö Ö ÒÓ ÓÚ Ö ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ׸ ×Ó Û Ú



χ2 (0) ÖÚ¸ Û
× Ñ Ò ¼ Ò Ú Ö Ò
¼¸ º º¸ Ø³× × ÑÔÐÝ ¼º Ì × Ñ Ò× Û ³Ö ÒÓØ Ð



ØÓ Ø ×Ø Ø ÒØ Ý Ò Ö ×ØÖ
Ø ÓÒ× Ò Ø
× Ó Ü
Ø ÒØ
Ø ÓÒº









º ËÝ×Ø Ñ Ñ Ø Ó × Ó ×Ø Ñ Ø ÓÒ

¾ËÄË × × Ò Ð ÕÙ Ø ÓÒ Ñ Ø Ó Ó ×Ø Ñ Ø ÓÒ¸ × ÒÓØ ÓÚ º Ì Ú ÒØ Ó



× Ò Ð ÕÙ Ø ÓÒ Ñ Ø Ó × Ø Ø Ø³× ÙÒ
Ø Ý Ø ÓØ Ö ÕÙ Ø ÓÒ× Ó Ø ×Ý×Ø Ñ¸ ×Ó Ø Ý



ÓÒ³Ø Ò ØÓ ×Ô
´ Ü
ÔØ ÓÖ Ò Ò Û Ø Ö Ø ÜÓ ×¸ ×Ó ¾ËÄË
Ò Ù× Ø




ÓÑÔÐ Ø × Ø Ó Ò×ØÖÙÑ ÒØ×µº Ì × Ú ÒØ Ó ¾ËÄË × Ø Ø Ø³× Ò
Òظ Ò Ò Ö Ðº





• Ê
ÐÐ Ø Ø ÓÚ Ö ÒØ
Ø ÓÒ ÑÔÖÓÚ ×
Ò
Ý Ó ×Ø Ñ Ø ÓÒ¸ × Ò
Ò ÓÚ Ö ¹



ÒØ ÕÙ Ø ÓÒ
Ò Ù× ÑÓÖ Ò×ØÖÙÑ ÒØ× Ø Ò Ö Ò
×× ÖÝ ÓÖ
ÓÒ× ×Ø ÒØ



×Ø Ñ Ø ÓÒº



• Ë
ÓÒ Ðݸ Ø ××ÙÑÔØ ÓÒ × Ø Ø

º Ë ËÌ Å Å ÌÀÇ Ë Ç ËÌÁÅ ÌÁÇÆ ½¿







Y Γ = XB + E

E(X ′ E) = 0(K×G)

vec(E) ∼ N (0, Ψ)



• Ë Ò
Ø Ö × ÒÓ ÙØÓ
ÓÖÖ Ð Ø ÓÒ Ó Ø Et ³×¸ Ò × Ò
Ø
ÓÐÙÑÒ× Ó E Ö



Ò Ú Ù ÐÐÝ ÓÑÓ×
×Ø
¸ Ø Ò

 

σ11 In σ12 In · · · σ1G In

 º



 σ22 In º 

 º 

Ψ =  ºº º



 º º

º



 

· σGG In

= Σ ⊗ In



Ì × Ñ Ò× Ø Ø Ø ×ØÖÙ
ØÙÖ Ð ÕÙ Ø ÓÒ× Ö Ø ÖÓ×
×Ø
Ò
ÓÖÖ Ð Ø Û Ø



ÓÒ ÒÓØ Ö



• ÁÒ Ò Ö Ð¸ ÒÓÖ Ò Ø × Û ÐÐ Ð ØÓ Ò
ÒØ ×Ø Ñ Ø ÓÒ¸ ÓÐÐÓÛ Ò Ø ×
Ø ÓÒ ÓÒ



Ä˺ Ï Ò ÕÙ Ø ÓÒ× Ö
ÓÖÖ Ð Ø Û Ø ÓÒ ÒÓØ Ö ×Ø Ñ Ø ÓÒ × ÓÙÐ

ÓÙÒØ



ÓÖ Ø
ÓÖÖ Ð Ø ÓÒ Ò ÓÖ Ö ØÓ Ó Ø Ò
Ò
ݺ



• Ð×Ó¸ × Ò
Ø ÕÙ Ø ÓÒ× Ö
ÓÖÖ Ð Ø ¸ Ò ÓÖÑ Ø ÓÒ ÓÙØ ÓÒ ÕÙ Ø ÓÒ × Ñ¹



ÔÐ
ØÐÝ Ò ÓÖÑ Ø ÓÒ ÓÙØ ÐÐ ÕÙ Ø ÓÒ׺ Ì Ö ÓÖ ¸ ÓÚ Ö ÒØ
Ø ÓÒ Ö ×ØÖ
Ø ÓÒ×



Ò ÒÝ ÕÙ Ø ÓÒ ÑÔÖÓÚ
Ò
Ý ÓÖ ÐÐ ÕÙ Ø ÓÒ׸ Ú Ò Ø Ù×Ø ÒØ ÕÙ ¹



Ø ÓÒ׺



• Ë Ò Ð ÕÙ Ø ÓÒ Ñ Ø Ó ×
Ò³Ø Ù× Ø × ØÝÔ × Ó Ò ÓÖÑ Ø ÓÒ¸ Ò Ö Ø Ö ÓÖ



Ò
ÒØ ´ Ò Ò Ö Ðµº









º½º ¿ËÄ˺ ÆÓØ ÁØ × × Ö Ò ÑÓÖ ÔÖ
Ø
Ð ØÓ ØÖ Ø Ø ¿ËÄË ×Ø Ñ ØÓÖ ×



Ò Ö Ð Þ Ñ Ø Ó Ó ÑÓÑ ÒØ× ×Ø Ñ ØÓÖ ´× ÔØ Ö ½ µº Á ÒÓ ÐÓÒ Ö Ø
Ø ÓÐÐÓÛ Ò



×
Ø ÓÒ¸ ÙØ Ø × Ö Ø Ò ÓÖ Ø× ÔÓ×× Ð ×ØÓÖ
Ð ÒØ Ö ×غ ÒÓØ Ö ÐØ ÖÒ Ø Ú × ØÓ Ù×



ÁÅÄ ´ËÙ ×
Ø ÓÒ º¾µ¸ ÝÓÙ Ö Û ÐÐ Ò ØÓ Ñ ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ× ÓÒ Ø ÖÖÓÖ׺



Ì × ×
ÓÑÔÙØ Ø ÓÒ ÐÐÝ × Ð Û Ø ÑÓ ÖÒ
ÓÑÔÙØ Ö׺



ÓÐÐÓÛ Ò ÓÙÖ ÓÚ ÒÓØ Ø ÓÒ¸
×ØÖÙ
ØÙÖ Ð ÕÙ Ø ÓÒ
Ò ÛÖ ØØ Ò ×





yi = Yi γ1 + Xi β1 + εi

= Zi δi + εi



ÖÓÙÔ Ò Ø G ÕÙ Ø ÓÒ× ØÓ Ø Ö Û Ø

      

y1 Z1 0 ··· 0 δ1 ε1

   º



  δ2   ε2 

 y2   0

 Z2 º

º    

 º =  º  +  º 

 º   º ºº  º   º 

 º   ºº º 0  º   º 

yG 0 ··· 0 ZG δG εG

ÓÖ



y = Zδ + ε

Û Ö Û ÐÖ Ý Ú Ø Ø





E(εε′ ) = Ψ

= Σ ⊗ In

º Ë ËÌ Å Å ÌÀÇ Ë Ç ËÌÁÅ ÌÁÇÆ ½¿







Ì ¿ËÄË ×Ø Ñ ØÓÖ × Ù×Ø ¾ËÄË
ÓÑ Ò Û Ø ÄË
ÓÖÖ
Ø ÓÒ Ø Ø Ø × Ú ÒØ Ó



Ø ×ØÖÙ
ØÙÖ Ó Ψ. Ò ˆ

Z ×

 

X(X ′ X)−1 X ′ Z1 0 ··· 0

 º



 0 X(X ′ X)−1 X ′ Z2 º 

ˆ  º 

Z =  º ºº



 º º 0 

 º 

0 ··· 0 X(X ′ X)−1 X ′ ZG

 

ˆ

Y1 X1 0 ··· 0

 º 

 0 ˆ

Y2 X2 º

º



 

=  º 

 º ºº

º 0 

 º 

0 ··· 0 ˆ

YG XG

Ì × Ò×ØÖÙÑ ÒØ× Ö × ÑÔÐÝ Ø ÙÒÖ ×ØÖ
Ø Ö ÔÖ
Ø ÓÒ× Ó Ø Ò Ó ×¸
ÓÑ Ò



Û Ø Ø ÜÓ ×º Ì ×Ø Ò
Ø ÓÒ × Ø Ø Ø ÑÓ Ð × ÓÚ Ö ÒØ ¸ Ø Ò





Π = BΓ−1



Ñ Ý ×Ù
Ø ØÓ ×ÓÑ Þ ÖÓ Ö ×ØÖ
Ø ÓÒ׸ Ô Ò Ò ÓÒ Ø Ö ×ØÖ
Ø ÓÒ× ÓÒ Γ Ò B, Ò

ˆ

Π Ó × ÒÓØ ÑÔÓ× Ø × Ö ×ØÖ
Ø ÓÒ׺ Ð×Ó¸ ÒÓØ Ø Ø ˆ

Π ×
Ð
ÙÐ Ø Ù× Ò ÇÄË ÕÙ Ø ÓÒ



Ý ÕÙ Ø ÓÒº ÅÓÖ ÓÒ Ø × Ð Ø Öº



Ì ¾ËÄË ×Ø Ñ ØÓÖ ÛÓÙÐ



ˆ ˆ ˆ

δ = (Z ′ Z)−1 Z ′ y



×
Ò Ú Ö Ý × ÑÔÐ ÑÙÐØ ÔÐ
Ø ÓÒ¸ Ò ÒÓØ Ò Ø Ø Ø ÒÚ Ö× Ó ÐÓ
¹ ÓÒ Ð



Ñ ØÖ Ü × Ù×Ø Ø Ñ ØÖ Ü Û Ø Ø ÒÚ Ö× × Ó Ø ÐÓ
× ÓÒ Ø Ñ Ò ÓÒ Ðº Ì × ÁÎ



×Ø Ñ ØÓÖ ×Ø ÐÐ ÒÓÖ × Ø
ÓÚ Ö Ò
Ò ÓÖÑ Ø ÓÒº Ì Ò ØÙÖ Ð ÜØ Ò× ÓÒ × ØÓ Ø ÄË



ØÖ Ò× ÓÖÑ Ø ÓÒ¸ ÔÙØØ Ò Ø ÒÚ Ö× Ó Ø ÖÖÓÖ
ÓÚ Ö Ò
ÒØÓ Ø ÓÖÑÙÐ ¸ Û
Ú ×



Ø ¿ËÄË ×Ø Ñ ØÓÖ

−1

ˆ

δ3SLS = Z ′ (Σ ⊗ In )−1 Z

ˆ Z ′ (Σ ⊗ In )−1 y

ˆ

−1

= ˆ

Z ′ Σ−1 ⊗ In Z ˆ

Z ′ Σ−1 ⊗ In y



Ì × ×Ø Ñ ØÓÖ Ö ÕÙ Ö × ÒÓÛÐ Ó Σ. Ì ×ÓÐÙØ ÓÒ × ØÓ Ò × Ð ×Ø Ñ ØÓÖ Ù× Ò




ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Σ. Ì Ó Ú ÓÙ× ×ÓÐÙØ ÓÒ × ØÓ Ù× Ò ×Ø Ñ ØÓÖ × ÓÒ Ø ¾ËÄË



Ö × Ù Ð×



ˆ ˆ

εi = yi − Zi δi,2SLS

´ÁÅÈÇÊÌ ÆÌ ÆÇÌ Ø × ×
Ð
ÙÐ Ø Ù× Ò Zi , ÒÓØ ˆ

Zi ). Ì Ò Ø Ð Ñ ÒØ i, j Ó Σ

× ×Ø Ñ Ø Ý

ε′ εj

ˆi ˆ

ˆ

σij =

n

ËÙ ×Ø ØÙØ ˆ

Σ ÒØÓ Ø ÓÖÑÙÐ ÓÚ ØÓ Ø Ø × Ð ¿ËÄË ×Ø Ñ ØÓÖº



Ò ÐÓ ÓÙ×ÐÝ ØÓ Û Ø Û Ò Ø
× Ó ¾ËÄ˸ Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó Ø



¿ËÄË ×Ø Ñ ØÓÖ
Ò × ÓÛÒ ØÓ

  

 Z ′ (Σ ⊗ I )−1 Z −1 

√ a ˆ n

ˆ

ˆ

n δ3SLS − δ ∼ N 0, lim E 

n→∞  n 

º Ë ËÌ Å Å ÌÀÇ Ë Ç ËÌÁÅ ÌÁÇÆ ½¿







ÓÖÑÙÐ ÓÖ ×Ø Ñ Ø Ò Ø Ú Ö Ò
Ó Ø ¿ËÄË ×Ø Ñ ØÓÖ Ò Ò Ø × ÑÔÐ × ´
Ò
ÐÐ Ò



ÓÙØ Ø ÔÓÛ Ö× Ó n) ×



−1

ˆ ˆ ˆ ˆ ˆ

V δ3SLS = Z ′ Σ−1 ⊗ In Z



• Ì × × Ò ÐÓ ÓÙ× ØÓ Ø ¾ËÄË ÓÖÑÙÐ Ò ÕÙ Ø ÓÒ ´ µ¸
ÓÑ Ò Û Ø Ø ÄË




ÓÖÖ
Ø ÓÒº



• ÁÒ Ø
× Ø Ø ÐÐ ÕÙ Ø ÓÒ× Ö Ù×Ø ÒØ ¸ ¿ËÄË × ÒÙÑ Ö
ÐÐÝ ÕÙ Ú Ð ÒØ ØÓ



¾ËÄ˺ ÈÖÓÚ Ò Ø × × × ×Ø Û Ù× ÅÅ ÒØ ÖÔÖ Ø Ø ÓÒ Ó ¾ËÄË Ò ¿ËÄ˺



ÅÅ × ÔÖ × ÒØ Ò Ø Ò ÜØ
ÓÒÓÑ ØÖ
×
ÓÙÖ× º ÓÖ ÒÓÛ¸ Ø Ø ÓÒ Ø º







Ì ¿ËÄË ×Ø Ñ ØÓÖ × × ÙÔÓÒ Ø Ö Ô Ö Ñ Ø Ö ×Ø Ñ ØÓÖ ˆ

Π,
Ð
ÙÐ Ø ÕÙ Ø ÓÒ Ý



ÕÙ Ø ÓÒ Ù× Ò ÇÄË

ˆ

Π = (X ′ X)−1 X ′ Y

Û
× × ÑÔÐÝ

ˆ

Π = (X ′ X)−1 X ′ y1 y2 · · · yG

Ø Ø ×¸ ÇÄË ÕÙ Ø ÓÒ Ý ÕÙ Ø ÓÒ Ù× Ò ÐÐ Ø ÜÓ × Ò Ø ×Ø Ñ Ø ÓÒ Ó

ÓÐÙÑÒ Ó



Π.

ÁØ Ñ Ý × Ñ Ó Ø Ø Û Ù× ÇÄË ÓÒ Ø Ö Ù
ÓÖѸ × Ò
Ø Ö ÕÙ Ø ÓÒ× Ö




ÓÖÖ Ð Ø



′ ′

Yt′ = Xt BΓ−1 + Et Γ−1

′

= Xt Π + Vt′



Ò

′ ′

Vt = Γ−1 Et ∼ N 0, Γ−1 ΣΓ−1 , ∀t

Ä Ø Ø × Ú Ö¹
ÓÚ Ñ ØÖ Ü Ò
Ø Ý



′

Ξ = Γ−1 ΣΓ−1



ÇÄË ÕÙ Ø ÓÒ Ý ÕÙ Ø ÓÒ ØÓ Ø Ø Ö × ÕÙ Ú Ð ÒØ ØÓ

     

y1 X 0 ··· 0 π v1

   º

 1   

 0 X

 y2   º   π2   v2 

 º = º  + º 

 º   º ºº

 º   º 

 º   ºº  º

º 0  º   º 

yG 0 ··· 0 X πG vG



Û Ö yi × Ø n × 1 Ú
ØÓÖ Ó Ó × ÖÚ Ø ÓÒ× Ó Ø ith Ò Ó ¸ X × Ø ÒØ Ö n×K Ñ ØÖ Ü



Ó ÜÓ ×¸ πi × Ø ith
ÓÐÙÑÒ Ó Π, Ò vi × Ø ith
ÓÐÙÑÒ Ó V. Í× Ø ÒÓØ Ø ÓÒ





y = Xπ + v



ØÓ Ò
Ø Ø ÔÓÓÐ ÑÓ Ðº ÓÐÐÓÛ Ò Ø × ÒÓØ Ø ÓÒ¸ Ø ÖÖÓÖ
ÓÚ Ö Ò
Ñ ØÖ Ü ×





V (v) = Ξ ⊗ In



• Ì × × ×Ô
Ð
× Ó ØÝÔ Ó ÑÓ Ð ÒÓÛÒ × × Ø Ó × Ñ Ò ÐÝ ÙÒÖ Ð Ø

ÕÙ Ø ÓÒ× ´ËÍʵ × Ò
Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ Ó
ÕÙ Ø ÓÒ × Ö Òغ Ì



ÕÙ Ø ÓÒ× Ö
ÓÒØ ÑÔÓÖ ÒÓÙ×ÐÝ
ÓÖÖ Ð Ø ¸ ÓÛ Ú Öº Ì Ò Ö Ð
× ÛÓÙÐ



Ú Ö ÒØ Xi ÓÖ
ÕÙ Ø ÓÒº



• ÆÓØ Ø Ø
ÕÙ Ø ÓÒ Ó Ø ×Ý×Ø Ñ Ò Ú Ù ÐÐÝ × Ø × × Ø
Ð ××
Ð ××ÙÑÔ¹



Ø ÓÒ׺

º Ë ËÌ Å Å ÌÀÇ Ë Ç ËÌÁÅ ÌÁÇÆ ½¿







• ÀÓÛ Ú Ö¸ ÔÓÓÐ ×Ø Ñ Ø ÓÒ Ù× Ò Ø ÄË
ÓÖÖ
Ø ÓÒ × ÑÓÖ
Òظ × Ò




ÕÙ Ø ÓÒ¹ ݹ ÕÙ Ø ÓÒ ×Ø Ñ Ø ÓÒ × ÕÙ Ú Ð ÒØ ØÓ ÔÓÓÐ ×Ø Ñ Ø ÓÒ¸ × Ò
X ×



ÐÓ
ÓÒ Ð¸ ÙØ ÒÓÖ Ò Ø
ÓÚ Ö Ò
Ò ÓÖÑ Ø ÓÒº



• Ì ÑÓ Ð × ×Ø Ñ Ø Ý Ä˸ Û Ö Ξ × ×Ø Ñ Ø Ù× Ò Ø ÇÄË Ö × Ù Ð×



ÖÓÑ ÕÙ Ø ÓÒ¹ ݹ ÕÙ Ø ÓÒ ×Ø Ñ Ø ÓÒ¸ Û
Ö
ÓÒ× ×Ø Òغ



• ÁÒ Ø ×Ô
Ð
× Ø Ø ÐÐ Ø Xi Ö Ø × Ñ ¸ Û
× ØÖÙ Ò Ø ÔÖ × ÒØ
×



Ó ×Ø Ñ Ø ÓÒ Ó Ø Ö Ô Ö Ñ Ø Ö׸ ËÍÊ ≡ÇÄ˺ ÌÓ × ÓÛ Ø × ÒÓØ Ø Ø Ò Ø ×




× X = In ⊗ X. Í× Ò Ø ÖÙÐ ×

´½µ (A ⊗ B)−1 = (A−1 ⊗ B −1 )

´¾µ (A ⊗ B)′ = (A′ ⊗ B ′ ) Ò

´¿µ (A ⊗ B)(C ⊗ D) = (AC ⊗ BD), Û Ø



−1

ˆ

πSU R = (In ⊗ X)′ (Ξ ⊗ In )−1 (In ⊗ X) (In ⊗ X)′ (Ξ ⊗ In )−1 y

−1

= Ξ−1 ⊗ X ′ (In ⊗ X) Ξ−1 ⊗ X ′ y

= Ξ ⊗ (X ′ X)−1 Ξ−1 ⊗ X ′ y

= IG ⊗ (X ′ X)−1 X ′ y

 

ˆ

π1

 

 π2 

ˆ

 º 

=  

 º 

º



ˆ

πG

• ËÓ Ø ÙÒÖ ×ØÖ
Ø Ö
Ó
ÒØ×
Ò ×Ø Ñ Ø
ÒØÐÝ ´ ××ÙÑ Ò ÒÓÖÑ Ð Øݵ



Ý ÇÄ˸ Ú Ò Ø ÕÙ Ø ÓÒ× Ö
ÓÖÖ Ð Ø º



• Ï Ú ÒÓÖ ÒÝ ÔÓØ ÒØ Ð Þ ÖÓ× Ò Ø Ñ ØÖ Ü Π, Û
Ø Ý Ü ×Ø
ÓÙÐ



ÔÓØ ÒØ ÐÐÝ Ò
Ö × Ø
Ò
Ý Ó ×Ø Ñ Ø ÓÒ Ó Ø Ö º



• ÒÓØ Ö Ü ÑÔÐ Û Ö ËÍÊ≡ÇÄË × Ò ×Ø Ñ Ø ÓÒ Ó Ú
ØÓÖ ÙØÓÖ Ö ×× ÓÒ׺ Ë



ØÛÓ ×
Ø ÓÒ× º









º¾º ÁÅĺ ÙÐÐ Ò ÓÖÑ Ø ÓÒ Ñ Ü ÑÙÑ Ð Ð ÓÓ × Ò ÐØ ÖÒ Ø Ú ×Ø Ñ Ø ÓÒ Ñ Ø Ó º



ÁÅÄ Û ÐÐ ×ÝÑÔØÓØ
ÐÐÝ
Òظ × Ò
ÅÄ ×Ø Ñ ØÓÖ× × ÓÒ Ú Ò Ò ÓÖÑ Ø ÓÒ



× Ø Ö ×ÝÑÔØÓØ
ÐÐÝ
ÒØ ÛºÖºØº ÐÐ ÓØ Ö ×Ø Ñ ØÓÖ× Ø Ø Ù× Ø × Ñ Ò ÓÖÑ Ø ÓÒ



× Ø¸ Ò Ò Ø
× Ó Ø ÙÐй Ò ÓÖÑ Ø ÓÒ ÅÄ ×Ø Ñ ØÓÖ Û Ù× Ø ÒØ Ö Ò ÓÖÑ Ø ÓÒ × Øº



Ì ¾ËÄË Ò ¿ËÄË ×Ø Ñ ØÓÖ× ÓÒ³Ø Ö ÕÙ Ö ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ׸ Û Ð ÁÅÄ Ó




ÓÙÖ× Ó ×º ÇÙÖ ÑÓ Ð ×¸ Ö
ÐÐ



′ ′

Yt′ Γ = Xt B + Et

Et ∼ N (0, Σ), ∀t

′

E(Et Es ) = 0, t = s



Ì Ó ÒØ ÒÓÖÑ Ð ØÝ Ó Et Ñ Ò× Ø Ø Ø Ò× ØÝ ÓÖ Et × Ø ÑÙÐØ Ú Ö Ø ÒÓÖÑ Ð¸ Û




×

−1/2 1 ′

(2π)−g/2 det Σ−1 exp − Et Σ−1 Et

2

Ì ØÖ Ò× ÓÖÑ Ø ÓÒ ÖÓÑ Et ØÓ Yt Ö ÕÙ Ö × Ø Â
Ó Ò



dEt

| det | = | det Γ|

dYt′

º ÅÈÄ ¾ËÄË Æ ÃÄ ÁÆ³Ë ÅÇ Ä ½ ½¿







×Ó Ø Ò× ØÝ ÓÖ Yt ×



−1/2 1 ′

(2π)−G/2 | det Γ| det Σ−1 exp − ′ ′

Y ′ Γ − Xt B Σ−1 Yt′ Γ − Xt B

2 t

Ú Ò Ø ××ÙÑÔØ ÓÒ Ó Ò Ô Ò Ò
ÓÚ Ö Ø Ñ ¸ Ø Ó ÒØ ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×

n

nG n 1 ′

ln L(B, Γ, Σ) = − ln(2π)+n ln(| det Γ|)− ln det Σ−1 − ′ ′

Yt′ Γ − Xt B Σ−1 Yt′ Γ − Xt B

2 2 2

t=1



• Ì × × ÒÓÒÐ Ò Ö Ò Ø Ô Ö Ñ Ø Ö× Ó
Ø Ú ÙÒ
Ø ÓÒº Å Ü Ñ Ü Ø ÓÒ Ó Ø ×




Ò ÓÒ Ù× Ò Ø Ö Ø Ú ÒÙÑ Ö
Ñ Ø Ó ×º Ï ³ÐÐ × ÓÛ ØÓ Ó Ø × Ò Ø Ò ÜØ



×
Ø ÓÒº



• ÁØ ØÙÖÒ× ÓÙØ Ø Ø Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó ¿ËÄË Ò ÁÅÄ Ö Ø × Ñ ¸



××ÙÑ Ò ÒÓÖÑ Ð ØÝ Ó Ø ÖÖÓÖ׺

• ÇÒ
Ò
Ð
ÙÐ Ø Ø ÁÅÄ ×Ø Ñ ØÓÖ Ý Ø Ö Ø Ò Ø ¿ËÄË ×Ø Ñ ØÓÖ¸ Ø Ù×



ÚÓ Ò Ø Ù× Ó ÒÓÒÐ Ò Ö ÓÔØ Ñ Þ Öº Ì ×Ø Ô× Ö



´½µ Ð
ÙÐ Ø ˆ ˆ

Γ3SLS Ò B3SLS × ÒÓÖÑ Ðº



´¾µ Ð
ÙÐ Ø ˆ ˆ ˆ

Π = B3SLS Γ−1 . Ì × × Ò Û¸ Û Ò³Ø ×Ø Ñ Ø Π Ò Ø × Û Ý

3SLS

ÓÖ º Ì × ×Ø Ñ ØÓÖ Ñ Ý Ú ×ÓÑ Þ ÖÓ× Ò Øº Ï Ò Ö Ò × Ý× Ø Ö Ø



¿ËÄË Ó ×Ò³Ø Ð ØÓ ÁÅĸ Ñ Ò× Ø × ÓÖ ÔÖÓ
ÙÖ Ø Ø Ó ×Ò³Ø ÙÔ Ø

ˆ

Π, ÙØ ÓÒÐÝ ÙÔ Ø × ˆ

Σ Ò ˆ

B Ò ˆ

Γ. Á ÝÓÙ ÙÔ Ø ˆ

Π ÝÓÙ Ó
ÓÒÚ Ö ØÓ



ÁÅĺ



´¿µ Ð
ÙÐ Ø Ø Ò×ØÖÙÑ ÒØ× ˆ ˆ

Y = XΠ Ò
Ð
ÙÐ Ø ˆ

Σ Ù× Ò ˆ

Γ Ò ˆ

B ØÓ Ø



Ø ×Ø Ñ Ø ÖÖÓÖ׸ ÔÔÐÝ Ò Ø Ù×Ù Ð ×Ø Ñ ØÓÖº



´ µ ÔÔÐÝ ¿ËÄË Ù× Ò Ø × Ò Û Ò×ØÖÙÑ ÒØ× Ò Ø ×Ø Ñ Ø Ó Σ.

´ µ Ê Ô Ø ×Ø Ô× ¾¹ ÙÒØ Ð Ø Ö × ÒÓ
Ò Ò Ø Ô Ö Ñ Ø Ö׺



• ÁÅÄ × ÙÐÐÝ
Òظ × Ò
Ø³× Ò ÅÄ ×Ø Ñ ØÓÖ Ø Ø Ù× × ÐÐ Ò ÓÖÑ Ø ÓÒº Ì ×



ÑÔÐ × Ø Ø ¿ËÄË × ÙÐÐÝ
ÒØ Û ÒØ ÖÖÓÖ× Ö ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ º Ð×Ó¸




ÕÙ Ø ÓÒ × Ù×Ø ÒØ Ò Ø ÖÖÓÖ× Ö ÒÓÖÑ Ð¸ Ø Ò ¾ËÄË Û ÐÐ



ÙÐÐÝ
Òظ × Ò
Ò Ø ×
× ¾ËÄË≡¿ËÄ˺



• Ï Ò Ø ÖÖÓÖ× Ö Ò³Ø ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ¸ Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ × Ó
ÓÙÖ×



Ö ÒØ Ø Ò Û Ø³× ÛÖ ØØ Ò ÓÚ º







º Ü ÑÔÐ ¾ËÄË Ò ÃÐ Ò³× ÅÓ Ð½

Ì Ç
Ø Ú ÔÖÓ Ö Ñ Ë Ñ Õ»ÃÐ ÒºÑ Ô Ö ÓÖÑ× ¾ËÄË ×Ø Ñ Ø ÓÒ ÓÖ Ø ¿ ÕÙ Ø ÓÒ× Ó



ÃÐ Ò³× ÑÓ Ð ½¸ ××ÙÑ Ò ÒÓÒ ÙØÓ
ÓÖÖ Ð Ø ÖÖÓÖ׸ ×Ó Ø Ø Ð Ò Ó ÒÓÙ× Ú Ö Ð ×




Ò Ù× × Ò×ØÖÙÑ ÒØ׺ Ì Ö ×ÙÐØ× Ö



ÇÆËÍÅÈÌÁÇÆ ÉÍ ÌÁÇÆ



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

¾ËÄË ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ×

Ç × ÖÚ Ø ÓÒ× ¾½

ʹ×ÕÙ Ö ¼º ½½

Ë Ñ ¹×ÕÙ Ö ½º¼ ¼



×Ø Ñ Ø ×غ ÖÖº ع×Ø Øº Ô¹Ú ÐÙ

ÓÒ×Ø ÒØ ½ º ½º¿¾½ ½¾º ¿ ¼º¼¼¼

ÈÖÓ Ø× ¼º¼½ ¼º½½ ¼º½ ¼º

º ÅÈÄ ¾ËÄË Æ ÃÄ ÁÆ³Ë ÅÇ Ä ½ ½ ¼







Ä ÈÖÓ Ø× ¼º¾½ ¼º½¼ ¾º¼½ ¼º¼ ¼

Ï × ¼º ½¼ ¼º¼ ¼ ¾¼º½¾ ¼º¼¼¼



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÁÆÎ ËÌÅ ÆÌ ÉÍ ÌÁÇÆ



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

¾ËÄË ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ×

Ç × ÖÚ Ø ÓÒ× ¾½

ʹ×ÕÙ Ö ¼º

Ë Ñ ¹×ÕÙ Ö ½º¿ ¿½



×Ø Ñ Ø ×غ ÖÖº ع×Ø Øº Ô¹Ú ÐÙ

ÓÒ×Ø ÒØ ¾¼º¾ º ¿ ¾º ¼º¼½

ÈÖÓ Ø× ¼º½ ¼ ¼º½ ¿ ¼º ¼º¿

Ä ÈÖÓ Ø× ¼º ½ ¼º½ ¿ ¿º ¼º¼¼½

Ä Ô Ø Ð ¹¼º½ ¼º¼¿ ¹ º¿ ¼º¼¼¼



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Ï Ë ÉÍ ÌÁÇÆ



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

¾ËÄË ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ×

Ç × ÖÚ Ø ÓÒ× ¾½

ʹ×ÕÙ Ö ¼º ½

Ë Ñ ¹×ÕÙ Ö ¼º ¾



×Ø Ñ Ø ×غ ÖÖº ع×Ø Øº Ô¹Ú ÐÙ

ÓÒ×Ø ÒØ ½º ¼¼ ½º½ ½º¿¼ ¼º¾¼

ÇÙØÔÙØ ¼º ¿ ¼º¼¿ ½¾º¿½ ¼º¼¼¼

Ä ÇÙØÔÙØ ¼º½ ¼º¼¿ ¿º ¼º¼¼¾

ÌÖ Ò ¼º½¿¼ ¼º¼¾ º ¼º¼¼¼



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶



Ì ÓÚ Ö ×ÙÐØ× Ö ÒÓØ Ú Ð ´×Ô

ÐÐݸ Ø Ý Ö Ò
ÓÒ× ×Ø Òص Ø ÖÖÓÖ× Ö



ÙØÓ
ÓÖÖ Ð Ø ¸ × Ò
Ð Ò Ó ÒÓÙ× Ú Ö Ð × Û ÐÐ ÒÓØ Ú Ð Ò×ØÖÙÑ ÒØ× Ò Ø Ø




× º ÓÙ Ñ Ø
ÓÒ× Ö Ð Ñ Ò Ø Ò Ø Ð Ò Ó ÒÓÙ× Ú Ö Ð × × Ò×ØÖÙÑ ÒØ׸ Ò



Ö ¹ ×Ø Ñ Ø Ò Ý ¾ËÄ˸ ØÓ Ó Ø Ò
ÓÒ× ×Ø ÒØ Ô Ö Ñ Ø Ö ×Ø Ñ Ø × Ò Ø × ÑÓÖ
ÓÑÔÐ Ü




× º ËØ Ò Ö ÖÖÓÖ× Û ÐÐ ×Ø ÐÐ ×Ø Ñ Ø Ò
ÓÒ× ×Ø ÒØÐݸ ÙÒÐ ×× Ù× Æ Û Ý¹Ï ×Ø ØÝÔ




ÓÚ Ö Ò
×Ø Ñ ØÓÖº ÓÓ ÓÖ Ø Ó٠غºº

À ÈÌ Ê ½¾







ÁÒØÖÓ Ù
Ø ÓÒ ØÓ Ø ×
ÓÒ Ð



Ï ³ÐÐ Ò Û Ø ×ØÙ Ý Ó ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ× Ò Ò Ö Ðº Ä Ø Zn Ø Ú Ð Ð



Ø ¸ × ÓÒ × ÑÔÐ Ó × Þ nº



Ò Ø ÓÒ ¼º½º ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ℄ Ò ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ ˆ

θ × Ø ÓÔØ Ñ Þ Ò



Ð Ñ ÒØ Ó Ò Ó
Ø Ú ÙÒ
Ø ÓÒ sn (Zn , θ) ÓÚ Ö × Ø Θº



Ï ³ÐÐ Ù×Ù ÐÐÝ ÛÖ Ø Ø Ó
Ø Ú ÙÒ
Ø ÓÒ ×ÙÔÔÖ ×× Ò Ø Ô Ò Ò
ÓÒ Zn .

Ü ÑÔÐ Ä ×Ø ×ÕÙ Ö ×¸ Ð Ò Ö ÑÓ Ð

Ä Ø Ø º ºÔº yt = x′ θ 0 + εt , t = 1, 2, ..., n, θ 0 ∈ Θ. ËØ

t
Ò Ó × ÖÚ Ø ÓÒ× Ú ÖØ
ÐÐݸ

′

yn = Xn θ 0 + εn , Û Ö Xn = x1 x2 · · · xn .Ì Ð ×Ø ×ÕÙ Ö × ×Ø Ñ ØÓÖ × Ò



×

ˆ

θ ≡ arg min sn (θ) = (1/n) [yn − Xn θ]′ [yn − Xn θ]

Θ

Ï Ö ÐÝ Ò Ø Ø ˆ

θ= (X ′ X)−1 X′ y.



Ü ÑÔÐ Å Ü ÑÙÑ Ð Ð ÓÓ

ËÙÔÔÓ× Ø Ø Ø
ÓÒØ ÒÙÓÙ× Ö Ò ÓÑ Ú Ö Ð yt ∼ IIN (θ 0 , 1). Ì Ñ Ü ÑÙÑ Ð Ð ¹



ÓÓ ×Ø Ñ ØÓÖ × Ò ×

n

ˆ (yt − θ)2

θ ≡ arg max Ln (θ) = (2π)−1/2 exp −

Θ 2

t=1




Ù× Ø ÐÓ Ö Ø Ñ
ÙÒ
Ø ÓÒ × ×ØÖ
ØÐÝ Ò
Ö × Ò ÓÒ (0, ∞)¸ Ñ Ü Ñ Þ Ø ÓÒ Ó Ø



Ú Ö ÐÓ Ö Ø Ñ Ó Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×
Ú Ø Ø × Ñ ˆ

θ × ÓÖ Ø Ð Ð ÓÓ



ÙÒ
Ø ÓÒ

n

ˆ (yt − θ)2

θ ≡ arg max sn (θ) = (1/n) ln Ln (θ) = −1/2 ln 2π − (1/n)

Θ 2

t=1



ËÓÐÙØ ÓÒ Ó Ø ºÓº
º Ð × ØÓ Ø Ñ Ð Ö Ö ×ÙÐØ Ø Ø ˆ ¯

θ = y.

• ÅÄ ×Ø Ñ ØÓÖ× Ö ×ÝÑÔØÓØ
ÐÐÝ
ÒØ ´ Ö Ñ Ö¹Ê Ó ÐÓÛ Ö ÓÙÒ ¸ Ì Ó¹



Ö Ñ¿µ¸ ×ÙÔÔÓ× Ò Ø ×ØÖÓÒ ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ× ÙÔÓÒ Û
Ø Ý Ö ×

Ö ØÖÙ º

• ÇÒ
Ò ÒÚ ×Ø Ø Ø ÔÖÓÔ ÖØ ×Ó Ò ÅÄ ×Ø Ñ ØÓÖ ×ÙÔÔÓ× Ò Ø Ø Ø ×ØÖ ¹



ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ× Ö Ò
ÓÖÖ
غ Ì × Ú × ÕÙ × ¹ÅÄ ×Ø Ñ ØÓÖ¸ Û
Û ³ÐÐ



×ØÙ Ý Ð Ø Öº



• Ì ×ØÖÓÒ ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ× Ó ÅÄ Ñ Ý ÕÙ ×Ø ÓÒ Ð Ò Ñ ÒÝ
× ×º



ÁØ × ÔÓ×× Ð ØÓ ×Ø Ñ Ø Ù× Ò Û Ö ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ× × ÓÒÐÝ ÓÒ



×ÓÑ Ó Ø ÑÓÑ ÒØ× Ó Ö Ò ÓÑ Ú Ö Ð ´×µº



Ü ÑÔÐ Å Ø Ó Ó ÑÓÑ ÒØ×

ËÙÔÔÓ× Û Ö Û Ö Ò ÓÑ × ÑÔÐ Ó yt ÖÓÑ Ø χ2 (θ 0 ) ×ØÖ ÙØ ÓÒº À Ö ¸ θ0 × Ø



Ô Ö Ñ Ø Ö Ó ÒØ Ö ×غ Ì Ö×Ø ÑÓÑ ÒØ ´ ÜÔ
Ø Ø ÓÒµ¸ µ1 , Ó Ö Ò ÓÑ Ú Ö Ð Û ÐÐ Ò



Ò Ö Ð ÙÒ
Ø ÓÒ Ó Ø Ô Ö Ñ Ø Ö× Ó Ø ×ØÖ ÙØ ÓÒ¸ º º¸ µ1 (θ 0 ) º

• µ1 = µ1 (θ 0 ) × ÑÓÑ ÒØ¹Ô Ö Ñ Ø Ö ÕÙ Ø ÓÒº

½ ½

½¾º ÁÆÌÊÇ Í ÌÁÇÆ ÌÇ ÌÀ Ë ÇÆ À Ä ½ ¾







• ÁÒ Ø × Ü ÑÔÐ ¸ Ø Ö Ð Ø ÓÒ× Ô × Ø ÒØ ØÝ ÙÒ
Ø ÓÒ µ1 (θ 0 ) = θ 0 , Ø ÓÙ Ò



Ò Ö Ð Ø Ö Ð Ø ÓÒ× Ô Ñ Ý ÑÓÖ
ÓÑÔÐ
Ø º Ì × ÑÔÐ Ö×Ø ÑÓÑ ÒØ ×



n

µ1 = yt /n.

t=1



• Ò



m1 (θ) = µ1 (θ) − µ1

• Ì Ñ Ø Ó Ó ÑÓÑ ÒØ× ÔÖ Ò
ÔÐ × ØÓ
ÓÓ× Ø ×Ø Ñ ØÓÖ Ó Ø Ô Ö Ñ Ø Ö



ØÓ × Ø Ø ×Ø Ñ Ø Ó Ø ÔÓÔÙÐ Ø ÓÒ ÑÓÑ ÒØ ÕÙ Ð ØÓ Ø × ÑÔÐ ÑÓÑ ÒØ ¸ º º¸

ˆ

m1 (θ) ≡ 0º Ì Ò Ø ÑÓÑ ÒØ¹Ô Ö Ñ Ø Ö ÕÙ Ø ÓÒ × ÒÚ ÖØ ØÓ ×ÓÐÚ ÓÖ Ø



Ô Ö Ñ Ø Ö ×Ø Ñ Ø º









ÁÒ Ø ×
× ¸

n

ˆ ˆ

m1 (θ) = θ − yt /n = 0.

t=1

n p

Ë Ò
t=1 yt /n → θ0 Ý Ø ÄÄƸ Ø ×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø Òغ



ÅÓÖ ÓÒ Ø Ñ Ø Ó Ó ÑÓÑ ÒØ×

ÓÒØ ÒÙ Ò Û Ø Ø ÓÚ Ü ÑÔÐ ¸ Ø Ú Ö Ò
Ó χ2 (θ 0 ) ÖºÚº ×



2

V (yt ) = E yt − θ 0 = 2θ 0 .



• Ò

n

t=1 (yt − y )2

¯

m2 (θ) = 2θ −

n

• Ì ÅÅ ×Ø Ñ ØÓÖ ÛÓÙÐ × Ø

n

ˆ ˆ t=1 (yt − y )2

¯

m2 (θ) = 2θ − ≡ 0.

n

Ò¸ Ý Ø ÄÄƸ Ø × ÑÔÐ Ú Ö Ò
×
ÓÒ× ×Ø ÒØ ÓÖ Ø ØÖÙ Ú Ö Ò
¸ Ø Ø



׸

n

t=1 (yt − y )2

¯ p

→ 2θ 0 .

n

ËÓ¸

n

ˆ t=1 (yt − y )2

¯

θ= ,

2n

Û
× Ó Ø Ò Ý ÒÚ ÖØ Ò Ø ÑÓÑ ÒØ¹Ô Ö Ñ Ø Ö ÕÙ Ø ÓÒ¸ ×
ÓÒ× ×Ø Òغ









Ü ÑÔÐ Ò Ö ÐÞ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ

Ì ÔÖ Ú ÓÙ× ØÛÓ Ü ÑÔÐ × Ú ØÛÓ ×Ø Ñ ØÓÖ× Ó θ0 Û
Ö ÓØ
ÓÒ× ×Ø Òغ Ï Ø



Ú Ò × ÑÔÐ ¸ Ø ×Ø Ñ ØÓÖ× Û ÐÐ Ö ÒØ Ò Ò Ö Ðº









• Ï Ø ØÛÓ ÑÓÑ ÒØ¹Ô Ö Ñ Ø Ö ÕÙ Ø ÓÒ× Ò ÓÒÐÝ ÓÒ Ô Ö Ñ Ø Ö¸ Û Ú ÓÚ Ö ¹

ÒØ
Ø ÓÒ¸ Û
Ñ Ò× Ø Ø Û Ú ÑÓÖ Ò ÓÖÑ Ø ÓÒ Ø Ò × ×ØÖ
ØÐÝ Ò
×¹



× ÖÝ ÓÖ
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó Ø Ô Ö Ñ Ø Öº



• Ì ÅÅ
ÓÑ Ò × Ò ÓÖÑ Ø ÓÒ ÖÓÑ Ø ØÛÓ ÑÓÑ ÒØ¹Ô Ö Ñ Ø Ö ÕÙ Ø ÓÒ× ØÓ



ÓÖÑ Ò Û ×Ø Ñ ØÓÖ Û
Û ÐÐ ÑÓÖ
Òظ Ò Ò Ö Ð ´ÔÖÓÓ Ó Ø × ÐÓÛµº

½¾º ÁÆÌÊÇ Í ÌÁÇÆ ÌÇ ÌÀ Ë ÇÆ À Ä ½ ¿







ÖÓÑ Ø Ö×Ø Ü ÑÔÐ ¸ Ò m1t (θ) = θ − yt . Ï ÐÖ Ý Ú Ø Ø m1 (θ) × Ø × ÑÔÐ



Ú Ö Ó m1t (θ), º º¸

n

m1 (θ) = 1/n m1t (θ)

t=1

n

= θ− yt /n.

t=1



Ð ÖÐݸ Û Ò Ú ÐÙ Ø ØØ ØÖÙ Ô Ö Ñ Ø Ö Ú ÐÙ θ0, ÓØ E m1t (θ 0 ) = 0 Ò E m1 (θ 0 ) =

0º

ÖÓÑ Ø ×
ÓÒ Ü ÑÔÐ Û Ò Ø ÓÒ Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×





m2t (θ) = 2θ − (yt − y )2

¯



Ò

n

t=1 (yt − y )2

¯

m2 (θ) = 2θ − .

n

a.s. ˆ

Ò¸ Ø ×
Ð Ö ÖÓÑ Ø ÄÄÆ Ø Ø m2 (θ 0 ) → 0. Ì ÅÅ ×Ø Ñ ØÓÖ ÛÓÙÐ
Ó× θ ØÓ × Ø



Ø Ö ˆ

m1 (θ) = 0 ˆ

ÓÖ m2 (θ) = 0. ÁÒ Ò Ö Ð¸ ÒÓ × Ò Ð Ú ÐÙ Ó θ Û ÐÐ ×ÓÐÚ Ø ØÛÓ ÕÙ Ø ÓÒ×



× ÑÙÐØ Ò ÓÙ×Ðݺ



• Ì ÅÅ ×Ø Ñ ØÓÖ × × ÓÒ Ò Ò Ñ ×ÙÖ Ó ×Ø Ò
d(m(θ)), Û Ö

′

m(θ) = (m1 (θ), m2 (θ)) , Ò
ÓÓ× Ò



ˆ

θ = arg min sn (θ) = d (m(θ)) .

Θ



Ò Ü ÑÔÐ ÛÓÙÐ ØÓ
ÓÓ× d(m) = m′ Am, Û Ö A × ÔÓ× Ø Ú Ò Ø Ñ ØÖ Üº



Ï Ð Ø³×
Ð Ö Ø Ø Ø ÅÅ Ú ×
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø × Ø Ö × ÓÒ ¹ØÓ¹ÓÒ Ö Ð Ø ÓÒ× Ô



ØÛ Ò Ô Ö Ñ Ø Ö× Ò ÑÓÑ ÒØ׸ Ø³× ÒÓØ ÑÑ Ø ÐÝ Ó Ú ÓÙ× Ø Ø Ø ÅÅ ×Ø Ñ ØÓÖ



×
ÓÒ× ×Ø Òغ ´Ï ³ÐÐ × Ð Ø Ö Ø Ø Ø ×ºµ



Ì × Ü ÑÔÐ × × ÓÛ Ø Ø Ø × Û ÐÝ Ù× ×Ø Ñ ØÓÖ× Ñ Ý ÐÐ ÒØ ÖÔÖ Ø × Ø



×ÓÐÙØ ÓÒ Ó Ò ÓÔØ Ñ Þ Ø ÓÒ ÔÖÓ Ð Ñº ÓÖ Ø × Ö ×ÓÒ¸ Ø ×ØÙ Ý Ó ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ× ×



Ù× ÙÐ ÓÖ Ø× Ò Ö Ð Øݺ Ï Û ÐÐ × Ø Ø Ø Ò Ö Ð Ö ×ÙÐØ× ÜØ Ò ×ÑÓÓØ ÐÝ ØÓ Ø ÑÓÖ



×Ô
Ð Þ Ö ×ÙÐØ× Ú Ð Ð ÓÖ ×Ô

×Ø Ñ ØÓÖ׺ Ø Ö ×ØÙ Ý Ò ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ×



Ò Ò Ö Ð¸ Û Û ÐÐ ×ØÙ Ý Ø ÅÅ ×Ø Ñ ØÓÖ¸ Ø Ò ÉÅÄ Ò ÆÄ˺ Ì Ö ×ÓÒ Û ×ØÙ Ý



ÅÅ Ö×Ø × Ø Ø Ä˸ Áθ ÆÄ˸ ÅÄ ¸ ÉÅÄ Ò ÓØ Ö Û Ðй ÒÓÛÒ Ô Ö Ñ ØÖ
×Ø Ñ ØÓÖ×



Ñ Ý ÐÐ ÒØ ÖÔÖ Ø × ×Ô
Ð
× × Ó Ø ÅÅ ×Ø Ñ ØÓÖ¸ ×Ó Ø Ò Ö Ð Ö ×ÙÐØ× ÓÒ



ÅÅ
Ò × ÑÔÐ Ý Ò ÙÒ Ý Ø ØÖ ØÑ ÒØ Ó Ø × ÓØ Ö ×Ø Ñ ØÓÖ׺ Æ Ú ÖØ Ð ×׸ Ø Ö



Ö ×ÓÑ ×Ô
Ð Ö ×ÙÐØ× ÓÒ ÉÅÄ Ò ÆÄ˸ Ò ÓØ Ö ÑÔÓÖØ ÒØ Ò ÑÔ Ö
Ð Ö × Ö
¸



Û
Ñ × Ó
Ù× ÓÒ Ø Ñ Ù× Ùк





ÇÒ Ó Ø Ó
Ð ÔÓ ÒØ× Ó Ø
ÓÙÖ× Û ÐÐ ÒÓÒÐ Ò Ö ÑÓ Ð׺ Ì × × ÒÓØ ØÓ ×Ù ×Ø



Ø Ø Ð Ò Ö ÑÓ Ð× Ö Ò³Ø Ù× Ùк Ä Ò Ö ÑÓ Ð× Ö ÑÓÖ Ò Ö Ð Ø Ò Ø Ý Ñ Ø Ö×Ø



ÔÔ Ö¸ × Ò
ÓÒ
Ò ÑÔÐÓÝ ÒÓÒÐ Ò Ö ØÖ Ò× ÓÖÑ Ø ÓÒ× Ó Ø Ú Ö Ð ×







ϕ0 (yt ) = ϕ1 (xt ) ϕ2 (xt ) · · · ϕp (xt ) θ 0 + εt

ÓÖ Ü ÑÔÐ ¸



ln yt = α + βx1t + γx2 + δx1t x2t + εt

1t



Ø× Ø × ÓÖѺ



• Ì ÑÔÓÖØ ÒØ ÔÓ ÒØ × Ø Ø Ø ÑÓ Ð × ÐÒ Ö ÒØ Ô Ö Ñ Ø Ö× ÙØ ÒÓØ Ò
×¹



× Ö ÐÝ ÐÒ Ö ÒØ Ú Ö Ð ×º

½¾º ÁÆÌÊÇ Í ÌÁÇÆ ÌÇ ÌÀ Ë ÇÆ À Ä ½







ÁÒ ×Ô Ø Ó Ø × Ò Ö Ð Øݸ × ØÙ Ø ÓÒ× Ó Ø Ò Ö × Û
× ÑÔÐÝ
Ò ÒÓØ
ÓÒÚ Ò
Ò ÐÝ



Ö ÔÖ × ÒØ Ý Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö× ÑÓ Ð׺ Ð×Ó¸ Ø ÓÖÝ Ø Ø ÔÔÐ × ØÓ ÒÓÒÐ Ò Ö



ÑÓ Ð× Ð×Ó ÔÔÐ × ØÓ Ð Ò Ö ÑÓ Ð׸ ×Ó ÓÒ Ñ Ý × Û ÐÐ ×Ø ÖØ Ó Û Ø Ø Ò Ö Ð
× º



Ü ÑÔÐ ÜÔ Ò ØÙÖ × Ö ×

ÊÓÝ³× Á ÒØ ØÝ ×Ø Ø × Ø Ø Ø ÕÙ ÒØ ØÝ Ñ Ò Ó Ø ith Ó G ÓÓ × ×



−∂v(p, y)/∂pi

xi = .

∂v(p, y)/∂y

Ò ÜÔ Ò ØÙÖ × Ö ×



si ≡ pi xi /y,

G

×Ó Ò
×× Ö ÐÝ si ∈ [0, 1], Ò i=1 si = 1º ÆÓ Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö× ÑÓ Ð ÓÖ xi ÓÖ si

Û Ø Ô Ö Ñ Ø Ö ×Ô
Ø Ø × Ò Ò Ô Ò ÒØ Ó Ø Ø
Ò Ù Ö ÒØ Ø Ø Ø Ö Ó



Ø ×
ÓÒ Ø ÓÒ× ÓР׺ Ì ×
ÓÒ×ØÖ ÒØ× Û ÐÐ Ó Ø Ò Ú ÓÐ Ø Ý ×Ø Ñ Ø Ð Ò Ö ÑÓ Ð׸



Û

ÐÐ× ÒØÓ ÕÙ ×Ø ÓÒ Ø Ö ÔÔÖÓÔÖ Ø Ò ×× Ò
× × Ó Ø × ×ÓÖغ



Ü ÑÔÐ Ò ÖÝ Ð Ñ Ø Ô Ò ÒØ Ú Ö Ð

Ì Ö Ö Ò ÙÑ
ÓÒØ Ò ÒØ Ú ÐÙ Ø ÓÒ ´ ε Ñ Ø Ó Ó Ò Ö Ò Ø ×Ó
Ð Ú ÐÙ Ó



ÔÖÓ
Ø ÔÖÓÚ × × ÑÔÐ Ü ÑÔÐ º Ì × Ü ÑÔÐ × ×Ô
Ð
× Ó ÑÓÖ Ò Ö Ð ×
Ö Ø




Ó
´ÓÖ Ò ÖÝ Ö ×ÔÓÒ× µ ÑÓ Ð׺ ÁÒ Ú Ù Ð× Ö × Ø Ý ÛÓÙÐ Ô Ý Ò ÑÓÙÒØ A

ÓÖ ÔÖÓÚ × ÓÒ Ó ÔÖÓ
غ ÁÒ Ö
Ø ÙØ Ð ØÝ Ò Ø ×
× ´ÒÓ ÔÖÓ

0 0


ص × v (m, z)+ε , Û Ö



m × Ò
ÓÑ Ò z × Ú
ØÓÖ Ó ÓØ Ö Ú Ö Ð × ×Ù
× ÔÖ
׸ Ô Ö×ÓÒ Ð
Ö
Ø Ö ×Ø
׸ Ø
º

1 1

Ø Ö ÔÖÓÚ × ÓÒ¸ ÙØ Ð ØÝ × v (m, z) + ε . Ì

i

Ö Ò ÓÑ Ø ÖÑ× ε , i = 1, 2, Ö
Ø Ú Ö Ø ÓÒ× Ó

½

ÔÖ Ö Ò
× Ò Ø ÔÓÔÙÐ Ø ÓÒº Ï Ø Ø ×¸ Ò Ò Ú Ù Ð Ö × ØÓ Ô Ý A

ε0 − ε1 v 1 (m − A, z) − v 0 (m, z)

0

∂a

ÓÖ a ÔÓ× Ø Ú ÙØ ×Ñ Ðк Ì Ø ×¸ Û Ó Ò Ö
Ø ÓÒ d¸ Û Û ÐÐ ÑÔÖÓÚ ÓÒ Ø Ó
Ø Ú



ÙÒ
Ø ÓÒ¸ Ø Ð ×Ø Û ÓÒ³Ø Ó ØÓÓ Ö Ò Ø Ø Ö
Ø ÓÒº



• × ÐÓÒ × Ø Ö ÒØ Ø θ × ÒÓØ Þ ÖÓ Ø Ö Ü ×Ø Ò
Ö × Ò Ö
Ø ÓÒ׸ Ò



Ø Ý
Ò ÐÐ Ö ÔÖ × ÒØ × Qk g(θ k ) Û Ö Qk × ×ÝÑÑ ØÖ
Ô Ñ ØÖ Ü Ò



g (θ) = Dθ s(θ) × Ø Ö ÒØ Ø θ º ÌÓ × Ø ×¸ Ø ÌºËº ÜÔ Ò× ÓÒ ÖÓÙÒ



a0 = 0



s(θ + ad) = s(θ + 0d) + (a − 0) g(θ + 0d)′ d + o(1)

= s(θ) + ag(θ)′ d + o(1)

¾º ÊÁÎ ÌÁÎ ¹ Ë Å ÌÀÇ Ë ½









ÙÖ ¾º ÁÒ
Ö × Ò Ö
Ø ÓÒ× Ó × Ö










ÓÖ ×Ñ ÐÐ ÒÓÙ a Ø o(1) Ø ÖÑ
Ò ÒÓÖ º Á d × ØÓ Ò Ò
Ö × Ò



Ö
Ø ÓÒ¸ Û Ò g(θ)′ d > 0. Ò Ò d = Qg(θ), Û Ö Q × ÔÓ× Ø Ú Ò Ø ¸



Û Ù Ö ÒØ Ø Ø



g(θ)′ d = g(θ)′ Qg(θ) > 0

ÙÒÐ ×× g(θ) = 0. Ú ÖÝ Ò
Ö × Ò Ö
Ø ÓÒ
Ò Ö ÔÖ × ÒØ Ò Ø × Û Ý ´Ôº º



Ñ ØÖ
× Ö Ø Ó× ×Ù
Ø ØØ Ò Ð ØÛ Ò g Ò Qg(θ) × Ð ×× Ø Ø ¼ Ö ×µº



Ë ÙÖ ¾º



• Ï Ø Ø ×¸ Ø Ø Ö Ø ÓÒ ÖÙÐ
ÓÑ ×





θ (k+1) = θ (k) + ak Qk g(θ k )



Ò Û Ô Ó Ò ÙÒØ Ð Ø Ö ÒØ
ÓÑ × Þ ÖÓ¸ ×Ó Ø Ø Ø Ö × ÒÓ Ò
Ö × Ò Ö
Ø ÓÒº



Ì ÔÖÓ Ð Ñ × ÓÛ ØÓ
ÓÓ× a Ò Q.

• ÓÒ Ø ÓÒ Ð ÓÒ Q¸
ÓÓ× Ò a × ÖÐÝ ×ØÖ Ø ÓÖÛ Ö º × ÑÔÐ Ð Ò × Ö
×



Ò ØØÖ
Ø Ú ÔÓ×× Ð Øݸ × Ò
a × ×
Ð Öº



• Ì Ö Ñ Ò Ò ÔÖÓ Ð Ñ × ÓÛ ØÓ
ÓÓ× Q.

• ÆÓØ Ð×Ó Ø Ø Ø × Ú × ÒÓ Ù Ö ÒØ × ØÓ Ò ÐÓ Ð Ñ Ü ÑÙѺ





¾º¾º ËØ Ô ×Ø ×
Òغ ËØ Ô ×Ø ×
ÒØ ´ ×
ÒØ Û ³Ö Ñ Ü Ñ Þ Ò µ Ù×Ø × Ø× Q ØÓ



Ò ÒØ ØÝ Ñ ØÖ Ü¸ × Ò
Ø Ö ÒØ ÔÖÓÚ × Ø Ö
Ø ÓÒ Ó Ñ Ü ÑÙÑ Ö Ø Ó
Ò



Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒº



• Ú ÒØ × ×Ø ¹ Ó ×Ò³Ø Ö ÕÙ Ö ÒÝØ Ò ÑÓÖ Ø Ò Ö×Ø Ö Ú Ø Ú ×º



• × Ú ÒØ × Ì × Ó ×Ò³Ø ÐÛ Ý× ÛÓÖ ØÓÓ Û ÐÐ ÓÛ Ú Ö ´ Ö Û Ô
ØÙÖ Ó ¹



Ò Ò ÙÒ
Ø ÓÒµº

¾º ÊÁÎ ÌÁÎ ¹ Ë Å ÌÀÇ Ë ½









ÙÖ ¿º Æ ÛØÓÒ¹Ê Ô ×ÓÒ Ñ Ø Ó









¾º¿º Æ ÛØÓÒ¹Ê Ô ×ÓÒº Ì Æ ÛØÓÒ¹Ê Ô ×ÓÒ Ñ Ø Ó Ù× × Ò ÓÖÑ Ø ÓÒ ÓÙØ Ø



×ÐÓÔ Ò
ÙÖÚ ØÙÖ Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒ ØÓ Ø ÖÑ Ò Û
Ö
Ø ÓÒ Ò ÓÛ Ö ØÓ



ÑÓÚ ÖÓÑ Ò Ò Ø Ð ÔÓ Òغ ËÙÔÔÓ× Ò Û ³Ö ØÖÝ Ò ØÓ Ñ Ü Ñ Þ sn (θ). Ì ×
ÓÒ ÓÖ Ö



Ì ÝÐÓÖ³× × Ö × ÔÔÖÓÜ Ñ Ø ÓÒ Ó sn (θ) k

ÓÙØ θ ´ Ò Ò Ø Ð Ù ××µº



′

sn (θ) ≈ sn (θ k ) + g(θ k )′ θ − θ k + 1/2 θ − θ k H(θ k ) θ − θ k



ÌÓ ØØ ÑÔØ ØÓ Ñ Ü Ñ Þ sn (θ), Û
Ò Ñ Ü Ñ Þ Ø ÔÓÖØ ÓÒ Ó Ø Ö Ø¹ Ò × Ø Ø



Ô Ò × ÓÒ θ, º º¸ Û
Ò Ñ Ü Ñ Þ

′

s(θ) = g(θ k )′ θ + 1/2 θ − θ k

˜ H(θ k ) θ − θ k



Û Ø Ö ×Ô
Ø ØÓ θ. Ì × × ÑÙ
× Ö ÔÖÓ Ð Ñ¸ × Ò
Ø × ÕÙ Ö Ø
ÙÒ
Ø ÓÒ Ò θ, ×Ó Ø



× Ð Ò Ö Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ׺ Ì × Ö







Dθ s(θ) = g(θ k ) + H(θ k ) θ − θ k

˜

ËÓ Ø ×ÓÐÙØ ÓÒ ÓÖ Ø Ò ÜØ ÖÓÙÒ ×Ø Ñ Ø ×





θ k+1 = θ k − H(θ k )−1 g(θ k )



Ì × × ÐÐÙ×ØÖ Ø Ò ÙÖ ¿º



ÀÓÛ Ú Ö¸ Ø³× ÓÓ ØÓ Ò
ÐÙ ×Ø Ô× Þ ¸ × Ò
Ø ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ sn (θ) Ñ Ý



Ö Û Ý ÖÓÑ Ø Ñ Ü Ñ Þ Ö ˆ

θ, ×Ó Ø
ØÙ Ð Ø Ö Ø ÓÒ ÓÖÑÙÐ ×





θ k+1 = θ k − ak H(θ k )−1 g(θ k )



• ÔÓØ ÒØ Ð ÔÖÓ Ð Ñ × Ø Ø Ø À ×× Ò Ñ Ý ÒÓØ Ò Ø Ú Ò Ø Û Ò Û ³Ö



Ö ÖÓÑ Ø Ñ Ü Ñ Þ Ò

k −1 Ñ Ý ÒÓØ

ÔÓ Òغ ËÓ −H(θ ) ÔÓ× Ø Ú Ò Ø ¸ Ò

¾º ÊÁÎ ÌÁÎ ¹ Ë Å ÌÀÇ Ë ½ ¼







−H(θ k )−1 g(θ k ) Ñ Ý ÒÓØ Ò Ò Ò
Ö × Ò Ö
Ø ÓÒ Ó × Ö
º Ì ×
Ò ÔÔ Ò



Û Ò Ø Ó
Ø Ú ÙÒ
Ø ÓÒ × Ø Ö ÓÒ׸ Ò Û

× Ø À ×× Ò Ñ ØÖ Ü ×



Ú ÖÝ Ðй
ÓÒ Ø ÓÒ ´ º º¸ × Ò ÖÐÝ × Ò ÙÐ Öµ¸ ÓÖ Û Ò Û ³Ö ÒØ Ú
Ò ØÝ Ó ÐÓ
Ð

k

Ñ Ò ÑÙѸ H(θ ) × ÔÓ× Ø Ú Ò Ø ¸ Ò ÓÙÖ Ö
Ø ÓÒ ×
Ö × Ò Ö
Ø ÓÒ



Ó × Ö
º Å ØÖ Ü ÒÚ Ö× × Ý
ÓÑÔÙØ Ö× Ö ×Ù
Ø ØÓ Ð Ö ÖÖÓÖ× Û Ò Ø



Ñ ØÖ Ü × Ðй
ÓÒ Ø ÓÒ º Ð×Ó¸ Û
ÖØ ÒÐÝ ÓÒ³Ø Û ÒØ ØÓ Ó Ò Ø Ö
Ø ÓÒ Ó



Ñ Ò ÑÙÑ Û Ò Û ³Ö Ñ Ü Ñ Þ Ò º ÌÓ ×ÓÐÚ Ø × ÔÖÓ Ð Ñ¸ ÉÙ × ¹Æ ÛØÓÒ Ñ Ø Ó ×



× ÑÔÐÝ ÔÓ× Ø Ú Ò Ø H(θ)


ÓÑÔÓÒ ÒØ ØÓ ØÓ Ò×ÙÖ Ø Ø Ø Ö ×ÙÐØ Ò



Ñ ØÖ Ü × ÔÓ× Ø Ú Ò Ø ¸ º º¸ Q = −H(θ) + bI, Û Ö b ×
Ó× Ò Ð Ö ÒÓÙ



×Ó Ø Ø Q × Û Ðй
ÓÒ Ø ÓÒ Ò ÔÓ× Ø Ú Ò Ø º Ì × × Ø Ò Ø Ø Ø



ÑÔÖÓÚ Ñ ÒØ Ò Ø Ó
Ø Ú ÙÒ
Ø ÓÒ × Ù Ö ÒØ º



• ÒÓØ Ö Ú Ö Ø ÓÒ Ó ÕÙ × ¹Æ ÛØÓÒ Ñ Ø Ó × × ØÓ ÔÔÖÓÜ Ñ Ø Ø À ×× Ò Ý Ù×¹



Ò ×Ù

×× Ú Ö ÒØ Ú ÐÙ Ø ÓÒ׺ Ì × ÚÓ ×
ØÙ Ð
Ð
ÙÐ Ø ÓÒ Ó Ø À ×× Ò¸



Û
× Ò ÓÖ Ö Ó Ñ Ò ØÙ ´ Ò Ø Ñ Ò× ÓÒ Ó Ø Ô Ö Ñ Ø Ö Ú
ØÓÖµ ÑÓÖ




Ó×ØÐÝ Ø Ò
Ð
ÙÐ Ø ÓÒ Ó Ø Ö Òغ Ì Ý
Ò ÓÒ ØÓ Ò×ÙÖ Ø Ø Ø



ÔÔÖÓÜ Ñ Ø ÓÒ × Ôº º È Ò Ë Ö ØÛÓ Û Ðй ÒÓÛÒ Ü ÑÔР׺



ËØÓÔÔ Ò
Ö Ø Ö

Ì Ð ×Ø Ø Ò Û Ò × ØÓ
Û Ò ØÓ ×ØÓÔº Ø Ð
ÓÑÔÙØ Ö × ×Ù
Ø ØÓ



Ð Ñ Ø Ñ
Ò ÔÖ
× ÓÒ Ò ÖÓÙÒ ¹Ó ÖÖÓÖ׺ ÓÖ Ø × Ö ×ÓÒ׸ Ø × ÙÒÖ ×ÓÒ Ð ØÓ



ÓÔ Ø Ø ÔÖÓ Ö Ñ
Ò Ü
ØÐÝ Ò Ø ÔÓ ÒØ Ø Ø Ñ Ü Ñ Þ × ÙÒ
Ø ÓÒº Ï Ò ØÓ



Ò

ÔØ Ð ØÓÐ Ö Ò
׺ ËÓÑ ×ØÓÔÔ Ò
Ö Ø Ö Ö



• Æ Ð Ð
Ò Ò Ô Ö Ñ Ø Ö×



k k−1

|θj − θj | 0)

P r(y = 1) = Fε [g(x)]

≡ p(x, θ)



Ì ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×



n

1

sn (θ) = (yi ln p(xi , θ) + (1 − yi ) ln [1 − p(xi , θ)])

n

i=1

ÓÖ Ø ÐÓ Ø ÑÓ Ð ´× Ø
ÓÒØ Ò ÒØ Ú ÐÙ Ø ÓÒ Ü ÑÔÐ ÓÚ µ¸ Ø ÔÖÓ Ð ØÝ ×



Ø ×Ô

ÓÖÑ





1

p(x, θ) =

1 + exp(−x′θ)

ÓÙ × ÓÙÐ ÓÛÒÐÓ Ò Ü Ñ Ò ÄÓ Ø ÈºÑ ¸ Û
Ò Ö Ø × Ø

ÓÖ Ò ØÓ



Ø ÐÓ Ø ÑÓ Ð¸ ÐÓ ØºÑ ¸ Û

Ð
ÙÐ Ø × Ø ÐÓ Ð Ð ÓÓ ¸ Ò ×Ø Ñ Ø ÄÓ ØºÑ ¸ Û




× Ø× Ø Ò × ÙÔ Ò
ÐÐ× Ø ×Ø Ñ Ø ÓÒ ÖÓÙØ Ò ¸ Û
Ù× × Ø Ë Ð ÓÖ Ø Ñº

º ÅÈÄ Ë ½ ¿







À Ö Ö ×ÓÑ ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× Û Ø n = 100, Ò Ø ØÖÙ θ = (0, 1)′ .





¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÌÖ Ð Ó ÅÄ ×Ø Ñ Ø ÓÒ Ó ÄÓ Ø ÑÓ Ð



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¼º ¼ ¼ ¿

Ç × ÖÚ Ø ÓÒ× ½¼¼



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¼º ¼¼ ¼º¾¾¾ ¾º ¾¾ ¼º¼½

×ÐÓÔ ¼º ¼º¾¿ ¿º½ ¿ ¼º¼¼½



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ½¿¾º ¾¿¼

Á ½¿¼º ¾¿¼

Á ½¾ º ½¾

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶







Ì ×Ø Ñ Ø ÓÒ ÔÖÓ Ö Ñ ×
ÐÐ Ò ÑÐ Ö ×ÙÐØ×´µ¸ Û
Ò ØÙÖÒ
ÐÐ× ÒÙÑ Ö Ó



ÓØ Ö ÖÓÙØ Ò ×º Ì × ÙÒ
Ø ÓÒ× Ö Ô ÖØ Ó Ø Ó
Ø Ú ¹ ÓÖ Ö ÔÓ× ØÓÖݺ







º¾º ÓÙÒØ Ø Ì ÈÓ ××ÓÒ ÑÓ Ðº Ñ Ò ÓÖ ÐØ
Ö × Ù×Ù ÐÐÝ Ø ÓÙ Ø



Ó Ö Ú Ñ Ò ÐØ
Ö × Ò ÒÔÙØ ØÓ ÓÑ ÔÖÓ Ù
Ø ÓÒ ÙÒ
Ø ÓÒ Ø Ø ÔÖÓ Ù
×



ÐØ ¸ Ò ÐØ × Ò Ö ÙÑ ÒØ Ó Ø ÙØ Ð ØÝ ÙÒ
Ø ÓÒº ÖÓ××Ñ Ò ´½ ¾µ¸ ÓÖ Ü ÑÔÐ ¸



ÑÓ Ð× ÐØ ×
Ô Ø Ð ×ØÓ
Ø Ø × ×Ù
Ø ØÓ ÔÖ
Ø ÓÒ ´ º º¸ Ø
Ø× Ó Ò µº



À ÐØ
Ö Ú × Ø× Ö ×ØÓÖ Ø ×ØÓ
º ÍÒ Ö Ø ÓÑ ÔÖÓ Ù
Ø ÓÒ Ö Ñ ÛÓÖ ¸ Ò Ú Ù Ð×




Û Ò ØÓ Ñ ÐØ
Ö Ú × Ø× ØÓ Ñ ÒØ Ò Ø Ö ÐØ ×ØÓ
¸ ÓÖ ØÓ Ð Û Ø



Ò Ø Ú × Ó
× ØÓ Ø ×ØÓ
Ò Ø ÓÖÑ Ó

ÒØ× ÓÖ ÐÐÒ ×× ×º × ×Ù
¸ Ò Ú Ù Ð



Ñ Ò Û ÐÐ ÙÒ
Ø ÓÒ Ó Ø Ô Ö Ñ Ø Ö× Ó Ø Ò Ú Ù Ð׳ ÙØ Ð ØÝ ÙÒ
Ø ÓÒ׺



Ì Å ÈË ÐØ Ø Ð ¸ Ñ Ô×½ º Ø ¸
ÓÒØ Ò× Ó × ÖÚ Ø ÓÒ× ÓÒ × Ü Ñ ¹



×ÙÖ × Ó ÐØ
Ö Ù× º Ì Ø × ÖÓÑ Ø ½ Å
Ð ÜÔ Ò ØÙÖ È Ò Ð ËÙÖÚ Ý



´Å È˵º ÓÙ
Ò Ø ÑÓÖ Ò ÓÖÑ Ø ÓÒ Ø ØØÔ »»ÛÛÛºÑ Ô׺ ÖÕº ÓÚ»º Ì × Ü Ñ ¹



×ÙÖ × Ó Ù× Ö Ö Ó
¹ × Ú × Ø× ´Ç ε¸ ÓÙØÔ Ø ÒØ Ú × Ø× ´ÇÈε¸ ÒÔ Ø ÒØ Ú × Ø×



´ÁÈε¸ Ñ Ö Ò
Ý ÖÓÓÑ Ú × Ø× ´ Êε¸ ÒØ Ð Ú × Ø× ´Î ε¸ Ò ÒÙÑ Ö Ó ÔÖ ×
Ö ÔØ ÓÒ



ÖÙ × Ø Ò ´ÈÊ Ë Êµº Ì × ÓÖÑ
ÓÐÙÑÒ× ½ ¹ Ó Ñ Ô×½ º Ø º Ì
ÓÒ Ø ÓÒ¹



Ò Ú Ö Ð × Ö ÔÙ Ð
Ò×ÙÖ Ò
´ÈÍ ÄÁ µ¸ ÔÖ Ú Ø Ò×ÙÖ Ò
´ÈÊÁε¸ × Ü ´Ë µ¸



´ µ¸ Ý Ö× Ó Ù
Ø ÓÒ ´ Í µ¸ Ò Ò
ÓÑ ´ÁÆ ÇÅ µº Ì × ÓÖÑ
ÓÐÙÑÒ× ¹ ½¾



Ó Ø Ð ¸ Ò Ø ÓÖ Ö Ú Ò Ö º ÈÊÁÎ Ò ÈÍ ÄÁ Ö ¼»½ Ò ÖÝ Ú Ö Ð ×¸ Û Ö



½ Ò
Ø × Ø Ø Ø Ô Ö×ÓÒ ×

×× ØÓ ÔÙ Ð
ÓÖ ÔÖ Ú Ø Ò×ÙÖ Ò

ÓÚ Ö º Ë × Ð×Ó



¼»½¸ Û Ö ½ Ò
Ø × Ø Ø Ø Ô Ö×ÓÒ × Ñ Ð º Ì × Ø Û ÐÐ Ù× Ò Ü ÑÔÐ × ÖÐÝ



ÜØ Ò× Ú ÐÝ Ò Û Ø ÓÐÐÓÛ׺



Ì ÔÖÓ Ö Ñ ÜÔÐÓÖ Å ÈËºÑ × ÓÛ× ÓÛ Ø Ø Ñ Ý Ö Ò¸ Ò Ú × ×ÓÑ



×
Ö ÔØ Ú Ò ÓÖÑ Ø ÓÒ ÓÙØ Ú Ö Ð ×¸ Û
ÓÐÐÓÛ×



ÐÐ Ó Ø Ñ ×ÙÖ × Ó Ù× Ö
ÓÙÒØ Ø ¸ Û
Ñ Ò× Ø Ø Ø Ý Ø ÓÒ Ø Ú ÐÙ ×



0, 1, 2, ...º ÁØ Ñ Ø Ö ×ÓÒ Ð ØÓ ØÖÝ ØÓ Ù× Ø × Ò ÓÖÑ Ø ÓÒ Ý ×Ô
Ý Ò Ø Ò× ØÝ

º ÅÈÄ Ë ½







×
ÓÙÒØ Ø Ò× Øݺ ÇÒ Ó Ø × ÑÔÐ ×Ø
ÓÙÒØ Ø Ò× Ø × × Ø ÈÓ ××ÓÒ Ò× Øݸ



Û
×



exp(−λ)λy

fY (y) = .

y!

Ì ÈÓ ××ÓÒ Ú Ö ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×



n

1

sn (θ) = (−λi + yi ln λi − ln yi !)

n

i=1



Ï Û ÐÐ Ô Ö Ñ Ø Ö Þ Ø ÑÓ Ð ×





λi = exp(x′ β)

i



xi = [1 P U BLIC P RIV SEX AGE EDU C IN C]′ .



Ì × Ò×ÙÖ × Ø Ø Ø Ñ Ò × ÔÓ× Ø Ú ¸ × × Ö ÕÙ Ö ÓÖ Ø ÈÓ ××ÓÒ ÑÓ Ðº ÆÓØ Ø Ø ÓÖ



Ø × Ô Ö Ñ Ø Ö Þ Ø ÓÒ

∂λ/∂βj

βj =

λ

×Ó





λ

βj xj = ηxj ,

Ø Ð ×Ø
ØÝ Ó Ø
ÓÒ Ø ÓÒ Ð Ñ Ò Ó y Û Ø Ö ×Ô
Ø ØÓ Ø j th
ÓÒ Ø ÓÒ Ò Ú Ö Ð º



Ì ÔÖÓ Ö Ñ ×Ø Ñ Ø ÈÓ ××ÓÒºÑ ×Ø Ñ Ø × ÈÓ ××ÓÒ ÑÓ Ð Ù× Ò Ø ÙÐÐ Ø × Øº



Ì Ö ×ÙÐØ× Ó Ø ×Ø Ñ Ø ÓÒ¸ Ù× Ò Ç Î × Ø Ô Ò ÒØ Ú Ö Ð Ö Ö



ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ



Ç Î







¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÈÓ ××ÓÒ ÑÓ Ð¸ Å ÈË ½ ÙÐÐ Ø × Ø



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¹¿º ½¼ ¼

Ç × ÖÚ Ø ÓÒ×



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¹¼º ½ ¼º½ ¹ º¾ ¼ ¼º¼¼¼

ÔÙ º Ò׺ ¼º ¼º¼ ½½º¼ ¿ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º¾ ¼º¼ ½ º½¿ ¼º¼¼¼

× Ü ¼º ¼º¼ º ¼º¼¼¼

¼º¼¾ ¼º¼¼¾ ½½º ½ ¼º¼¼¼

Ù ¼º¼¾ ¼º¼½¼ ¿º¼ ½ ¼º¼¼¾

Ò
¹¼º¼¼¼ ¼º¼¼¼ ¹¼º ¼º¿¾



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ¿¿ º ½ Ú º Á º¿

º ÅÈÄ Ë ½







Á ¿¿ º ½ Ú º Á º¿ ½

Á ¿¿ ¾¿º ¼ Ú º Á º¿ ¾

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶







º¿º ÙÖ Ø ÓÒ Ø Ò Ø Ï ÙÐÐ ÑÓ Ðº ÁÒ ×ÓÑ
× ×Ø Ô Ò ÒØ Ú Ö Ð



Ñ Ý Ø Ø Ñ Ø Ø Ô ×× × ØÛ Ò Ø Ó

ÙÖ Ò
Ó ØÛÓ Ú ÒØ׺ ÓÖ Ü ÑÔÐ ¸ Ø Ñ Ý



Ø ÙÖ Ø ÓÒ Ó ×ØÖ ¸ ÓÖ Ø Ø Ñ Ò ØÓ Ò Ó ÓÒ
ÓÒ × ÙÒ ÑÔÐÓÝ º ËÙ




Ú Ö Ð × Ø ÓÒ Ú ÐÙ × ÓÒ Ø ÔÓ× Ø Ú Ö Ð Ð Ò ¸ Ò Ö Ö ÖÖ ØÓ × ÙÖ Ø ÓÒ Ø º



×Ô ÐÐ × Ø Ô Ö Ó Ó Ø Ñ ØÛ Ò Ø Ó

ÙÖ Ò
Ó Ò Ø Ð Ú ÒØ Ò Ø
ÓÒ
ÐÙ Ò



Ú Òغ ÓÖ Ü ÑÔÐ ¸ Ø Ò Ø Ð Ú ÒØ
ÓÙÐ Ø ÐÓ×× Ó Ó ¸ Ò Ø Ò Ð Ú ÒØ × Ø



Ò Ò Ó Ò Û Ó º Ì ×Ô ÐÐ × Ø Ô Ö Ó Ó ÙÒ ÑÔÐÓÝÑ Òغ



Ä Ø t0 Ø Ø Ñ Ø Ò Ø Ð Ú ÒØ Ó

ÙÖ׸ Ò t1 Ø Ø Ñ Ø
ÓÒ
ÐÙ Ò Ú ÒØ



Ó

ÙÖ׺ ÓÖ × ÑÔÐ
Øݸ ××ÙÑ Ø Ø Ø Ñ × Ñ ×ÙÖ Ò Ý Ö׺ Ì Ö Ò ÓÑ Ú Ö Ð D

× Ø ÙÖ Ø ÓÒ Ó Ø ×Ô Ðи D = t1 − t0 º Ò Ø Ò× ØÝ ÙÒ
Ø ÓÒ Ó D, fD (t), Û Ø



×ØÖ ÙØ ÓÒ ÙÒ
Ø ÓÒ FD (t) = Pr(D s) = 1 − Pr(D ≤ s) = 1 − FD (s).



Ì Ò× ØÝ Ó D
ÓÒ Ø ÓÒ Ð ÓÒ Ø ×Ô ÐÐ ÐÖ Ý Ú Ò Ð ×Ø s Ý Ö× ×





fD (t)

fD (t|D > s) = .

1 − FD (s)

Ì ÜÔ
Ø Ò
Ø ÓÒ Ð Ø Ñ Ö ÕÙ Ö ÓÖ Ø ×Ô ÐÐ ØÓ Ò Ú Ò Ø Ø × × ÐÖ Ý



Ð ×Ø s Ý Ö× × Ø ÜÔ
Ø Ø ÓÒ Ó D Û Ø Ö ×Ô
Ø ØÓ Ø × Ò× Øݸ Ñ ÒÙ× s.

∞

fD (z)

E = E(D|D > s) − s = z dz −s

t 1 − FD (s)

ÌÓ ×Ø Ñ Ø Ø × ÙÒ
Ø ÓÒ¸ ÓÒ Ò × ØÓ ×Ô
Ý Ø Ò× ØÝ fD (t) × Ô Ö Ñ ØÖ
Ò× Øݸ



Ø Ò ×Ø Ñ Ø Ý Ñ Ü ÑÙÑ Ð Ð ÓÓ º Ì Ö Ö ÒÙÑ Ö Ó ÔÓ×× Ð Ø × Ò
ÐÙ Ò Ø



ÜÔÓÒ ÒØ Ð Ò× Øݸ Ø ÐÓ ÒÓÖÑ Ð¸ Ø
º Ö ×ÓÒ ÐÝ Ü Ð ÑÓ ÐØ Ø × Ò Ö Ð Þ Ø ÓÒ



Ó Ø ÜÔÓÒ ÒØ Ð Ò× ØÝ × Ø Ï ÙÐÐ Ò× ØÝ





γ

fD (t|θ) = e−(λt) λγ(λt)γ−1 .



ÓÖ Ò ØÓ Ø × ÑÓ Ð¸ E(D) = λ−γ . Ì ÐÓ ¹Ð Ð ÓÓ × Ù×Ø Ø ÔÖÓ Ù
Ø Ó Ø ÐÓ



Ò× Ø ×º



ÌÓ ÐÐÙ×ØÖ Ø ÔÔÐ
Ø ÓÒ Ó Ø × ÑÓ Ð¸ ¼¾ Ó × ÖÚ Ø ÓÒ× ÓÒ Ø Ð ×Ô Ò Ó ÑÓÒ ÓÓ× ×



Ò Ë Ö Ò Ø Æ Ø ÓÒ Ð È Ö ´Ì ÒÞ Ò µ Û Ö Ù× ØÓ Ø Ï ÙÐÐ ÑÓ Ðº Ì ×Ô ÐÐ Ò



Ø ×
× × Ø Ð Ø Ñ Ó Ò Ò Ú Ù Ð ÑÓÒ ÓÓ× º Ì Ô Ö Ñ Ø Ö ×Ø Ñ Ø × Ò ×Ø Ò Ö



ÖÖÓÖ× Ö ˆ

λ = 0.559 (0.034) Ò ˆ

γ = 0.867 (0.033) Ò Ø ÐÓ ¹Ð Ð ÓÓ Ú ÐÙ × ¹ º¿º



ÙÖ ÔÖ × ÒØ× ØØ Ð ÜÔ
Ø Ò
Ý ´ ÜÔ
Ø Ø ÓÒ Ð Ý Ö× Ó Ð µ × ÙÒ
Ø ÓÒ Ó



¸ Û Ø ±
ÓÒ Ò
Ò ×º Ì ÔÐÓØ ×

ÓÑÔ Ò Ý ÒÓÒÔ Ö Ñ ØÖ
à ÔÐ Ò¹



Å Ö ×Ø Ñ Ø Ó Ð ¹ ÜÔ
Ø Ò
ݺ Ì × ÒÓÒÔ Ö Ñ ØÖ
×Ø Ñ ØÓÖ × ÑÔÐÝ Ú Ö × ÐÐ ×Ô ÐÐ



Ð Ò Ø × Ö Ø Ö Ø Ò ¸ Ò Ø Ò ×Ù ØÖ
Ø× º Ì × ×
ÓÒ× ×Ø ÒØ Ý Ø ÄÄƺ



ÁÒ Ø ÙÖ ÓÒ
Ò × Ø Ø Ø ÑÓ Ð Ó ×Ò³Ø Ø Ø Ø Û Ðи Ò Ø Ø Ø ÔÖ
Ø×



Ð ÜÔ
Ø Ò
Ý ÕÙ Ø Ö ÒØÐÝ Ø Ò Ó × Ø ÒÓÒÔ Ö Ñ ØÖ
ÑÓ Ðº ÓÖ × ¹ ¸ Ø

º ÅÈÄ Ë ½









ÙÖ º Ä ÜÔ
Ø Ò
Ý Ó ÑÓÒ ÓÓ× ×¸ Ï ÙÐÐ ÑÓ Ð









ÒÓÒÔ Ö Ñ ØÖ
×Ø Ñ Ø × ÓÙØ× Ø
ÓÒ Ò
ÒØ ÖÚ Ð Ø Ø Ö ×ÙÐØ× ÖÓÑ Ø Ô Ö Ñ ØÖ




ÑÓ Ð¸ Û

×Ø× ÓÙ Ø ÙÔÓÒ Ø Ô Ö Ñ ØÖ
ÑÓ Ðº ÅÓÒ ÓÓ× × Ø Ø Ö ØÛ Ò ¾¹



Ý Ö× ÓÐ × Ñ ØÓ Ú ÐÓÛ Ö Ð ÜÔ
Ø Ò
Ý Ø Ò × ÔÖ
Ø Ý Ø Ï ÙÐÐ ÑÓ Ð¸



Û Ö × ÝÓÙÒ ÑÓÒ ÓÓ× × Ø Ø ×ÙÖÚ Ú ÝÓÒ Ò Ò
Ý Ú Ö Ð ÜÔ
Ø Ò
ݸ ÙÔ



ØÓ Ø ÝÓÒ ¾ Ý Ö׺ Ù ØÓ Ø Ö Ñ Ø

Ò Ò Ø Ø Ö Ø × ÙÒ
Ø ÓÒ Ó t¸

ÓÒ Ñ Ø ×Ô
Ý fD (t) × Ñ ÜØÙÖ Ó ØÛÓ Ï ÙÐÐ Ò× Ø ×¸



γ1 γ2

fD (t|θ) = δ e−(λ1 t) λ1 γ1 (λ1 t)γ1 −1 + (1 − δ) e−(λ2 t) λ2 γ2 (λ2 t)γ2 −1 .



Ì Ô Ö Ñ Ø Ö× γi Ò λi , i = 1, 2 Ö Ø Ô Ö Ñ Ø Ö× Ó Ø ØÛÓ Ï ÙÐÐ Ò× Ø ×¸ Ò δ

× Ø Ô Ö Ñ Ø Ö Ø Ø Ñ Ü × Ø ØÛÓº



Ï Ø Ø × Ñ Ø ¸ θ
Ò ×Ø Ñ Ø Ù× Ò Ø Ñ Ü ÑÓ Ðº Ì Ö ×ÙÐØ× Ö



ÐÓ ¹Ð Ð ÓÓ ¹ ¾¿º½ º ÆÓØ Ø Ø ×Ø Ò Ö Ð Ð ÓÓ Ö Ø Ó Ø ×Ø
ÒÒÓØ Ù× ØÓ




Ó× ØÛ Ò Ø ØÛÓ ÑÓ Ð׸ × Ò
ÙÒ Ö Ø ÒÙÐÐ Ø Ø δ =1 ´× Ò Ð Ò× Øݵ¸ Ø ØÛÓ



Ô Ö Ñ Ø Ö× λ2 Ò γ2 Ö ÒÓØ ÒØ º ÁØ × ÔÓ×× Ð ØÓ Ø Ø × ÒØÓ

ÓÙÒظ ÙØ Ø ×



ØÓÔ
× ÓÙØ Ó Ø ×
ÓÔ Ó Ø ×
ÓÙÖ× º Æ Ú ÖØ Ð ×׸ Ø ÑÔÖÓÚ Ñ ÒØ Ò Ø Ð Ð ÓÓ



ÙÒ
Ø ÓÒ ×
ÓÒ× Ö Ð º Ì Ô Ö Ñ Ø Ö ×Ø Ñ Ø × Ö

º ÆÍÅ ÊÁ ÇÈÌÁÅÁ ÌÁÇÆ ÈÁÌ ÄÄË ½









ÙÖ º Ä ÜÔ
Ø Ò
Ý Ó ÑÓÒ ÓÓ× ×¸ Ñ Ü Ï ÙÐÐ ÑÓ Ð









È Ö Ñ Ø Ö ×Ø Ñ Ø Ëغ ÖÖÓÖ



λ1 ¼º¾¿¿ ¼º¼½



γ1 ½º ¾¾ ¼º½



λ2 ½º ¿½ ¼º½¼½



γ2 ½º ¾¾ ¼º¼



δ ¼º ¾ ¼º¼¿



ÆÓØ Ø Ø Ø Ñ ÜØÙÖ Ô Ö Ñ Ø Ö × ÐÝ × Ò
Òغ Ì × ÑÓ Ð Ð × ØÓ Ø Ø Ò ÙÖ



º ÆÓØ Ø Ø Ø Ô Ö Ñ ØÖ
Ò ÒÓÒÔ Ö Ñ ØÖ
Ø× Ö ÕÙ Ø
ÐÓ× ØÓ ÓÒ ÒÓØ Ö¸ ÙÔ ØÓ



ÖÓÙÒ 6Ý Ö׺ Ì × Ö Ñ ÒØ Ø Ö Ø × ÔÓ ÒØ × ÒÓØ ØÓÓ ÑÔÓÖØ Òظ × Ò
Ð ×× Ø Ò ±



Ó ÑÓÒ ÓÓ× × Ð Ú ÑÓÖ Ø Ò Ý Ö׸ Û
ÑÔÐ × Ø Ø Ø Ã ÔÐ Ò¹Å Ö ÒÓÒÔ Ö Ñ ØÖ




×Ø Ñ Ø × Ú Ö Ò
´× Ò
Ø³× Ò Ú Ö Ó ×Ñ ÐÐ ÒÙÑ Ö Ó Ó × ÖÚ Ø ÓÒ×µº



Å ÜØÙÖ ÑÓ Ð× Ö Ó Ø Ò Ò
Ø Ú Û Ý ØÓ ÑÓ Ð
ÓÑÔÐ Ü Ö ×ÔÓÒ× ×¸ Ø ÓÙ Ø Ý




Ò ×Ù Ö ÖÓÑ ÓÚ ÖÔ Ö Ñ Ø Ö Þ Ø ÓÒº ÐØ ÖÒ Ø Ú × Û ÐÐ ×
Ù×× Ð Ø Öº





º ÆÙÑ Ö
ÓÔØ Ñ Þ Ø ÓÒ Ô Ø ÐÐ×

ÁÒ Ø × ×
Ø ÓÒ Û ³ÐÐ Ü Ñ Ò ØÛÓ
ÓÑÑÓÒ ÔÖÓ Ð Ñ× Ø Ø
Ò Ò
ÓÙÒØ Ö Û Ò



Ó Ò ÒÙÑ Ö
ÓÔØ Ñ Þ Ø ÓÒ Ó ÒÓÒÐ Ò Ö ÑÓ Ð׸ Ò ×ÓÑ ×ÓÐÙØ ÓÒ׺





º½º ÈÓÓÖ ×
Ð Ò Ó Ø Ø º Ï Ò Ø Ø × ×
Ð ×Ó Ø Ø Ø Ñ Ò ØÙ × Ó



Ø Ö×Ø Ò ×
ÓÒ Ö Ú Ø Ú × Ö Ó Ö ÒØ ÓÖ Ö׸ ÔÖÓ Ð Ñ×
Ò × ÐÝ Ö ×ÙÐغ Á Û



ÙÒ
ÓÑÑ ÒØ Ø ÔÔÖÓÔÖ Ø Ð Ò Ò ×Ø Ñ Ø ÈÓ ××ÓҺѸ Ø Ø Û ÐÐ ÒÓØ ×
Ð ¸ Ò Ø



×Ø Ñ Ø ÓÒ ÔÖÓ Ö Ñ Û ÐÐ Ú
ÙÐØÝ
ÓÒÚ Ö Ò ´ Ø × Ñ× ØÓ Ø Ò Ò Ò Ø ÑÓÙÒØ Ó



Ø Ñ µº Ï Ø ÙÒ×
Ð Ø ¸ Ø Ð Ñ ÒØ× Ó Ø ×
ÓÖ Ú
ØÓÖ Ú Ú ÖÝ Ö ÒØ Ñ Ò ØÙ ×

º ÆÍÅ ÊÁ ÇÈÌÁÅÁ ÌÁÇÆ ÈÁÌ ÄÄË ½









ÙÖ º Ó Ý ÑÓÙÒØ Ò









Ø Ø Ò Ø Ð Ú ÐÙ Ó θ ´ ÐÐ Þ ÖÓ×µº ÌÓ × Ø × ÖÙÒ
Ë
ÓÖ ºÑº Ï Ø ÙÒ×
Ð Ø ¸



ÓÒ Ð Ñ ÒØ Ó Ø Ö ÒØ × Ú ÖÝ Ð Ö ¸ Ò Ø Ñ Ü ÑÙÑ Ò Ñ Ò ÑÙÑ Ð Ñ ÒØ× Ö



ÓÖ Ö× Ó Ñ Ò ØÙ Ô Öغ Ì ×
Ù× ×
ÓÒÚ Ö Ò
ÔÖÓ Ð Ñ× Ù ØÓ × Ö ÓÙ× ÒÙÑ Ö
Ð



Ò

ÙÖ
Ý Û Ò Ó Ò ÒÚ Ö× ÓÒ× ØÓ
Ð
ÙÐ Ø Ø Ë Ö
Ø ÓÒ Ó × Ö
º Ï Ø ×
Ð



Ø ¸ ÒÓÒ Ó Ø Ð Ñ ÒØ× Ó Ø Ö ÒØ Ö Ú ÖÝ Ð Ö ¸ Ò Ø Ñ Ü ÑÙÑ Ö Ò
Ò



ÓÖ Ö× Ó Ñ Ò ØÙ × ¿º ÓÒÚ Ö Ò
× ÕÙ
º





º¾º ÅÙÐØ ÔÐ ÓÔØ Ñ º ÅÙÐØ ÔÐ ÓÔØ Ñ ´ÓÒ ÐÓ Ð¸ ÓØ Ö× ÐÓ
е
Ò
ÓÑÔÐ
Ø



Ð ¸ × Ò
Û Ú Ð Ñ Ø Ñ Ò× Ó Ø ÖÑ Ò Ò Ø Ö × Ö Ñ Ü ÑÙÑ Ø Ø ÓÒ



Û ³Ö غ Ì Ò Ó
Ð Ñ Ò ÑÓÙÒØ Ò Ò Ò ÙÒ ÒÓÛÒ Ö Ò ¸ Ò Ú ÖÝ Ó Ý ÔÐ
´ ÙÖ



µº ÓÙ
Ò Ó ÙÔ ÙÒØ Ð Ø Ö ³× ÒÓÛ Ö Ð× ØÓ Ó ÙÔ¸ ÙØ × Ò
ÝÓÙ³Ö Ò Ø Ó ÝÓÙ ÓÒ³Ø



ÒÓÛ Ø ØÖÙ ×ÙÑÑ Ø ×
ÖÓ×× Ø Ô Ø Ø³× Ø ÝÓÙÖ Øº Ó ÝÓÙ
Ð Ñ Ú
ØÓÖÝ Ò Ó



ÓÑ ¸ ÓÖ Ó ÝÓÙ ØÖÙ ÓÛÒ Ø Ô Ò ÜÔÐÓÖ Ø ÓØ Ö ×



Ì ×Ø Û Ý ØÓ ÚÓ ×ØÓÔÔ Ò Ø ÐÓ
Ð Ñ Ü ÑÙÑ × ØÓ Ù× Ñ ÒÝ ×Ø ÖØ Ò Ú Ð٠׸



ÓÖ Ü ÑÔÐ ÓÒ Ö ¸ ÓÖ Ö Ò ÓÑÐÝ Ò Ö Ø º ÇÖ Ô Ö Ô× ÓÒ Ñ Ø Ú ÔÖ ÓÖ× ÓÙØ



ÔÓ×× Ð Ú ÐÙ × ÓÖ Ø Ô Ö Ñ Ø Ö× ´ º º¸ ÖÓÑ ÔÖ Ú ÓÙ× ×ØÙ × Ó × Ñ Ð Ö Ø µº



Ä Ø³× ØÖÝ ØÓ Ò Ø ØÖÙ Ñ Ò Ñ Þ Ö Ó Ñ ÒÙ× ½ Ø Ñ × Ø Ó Ý ÑÓÙÒØ Ò ÙÒ
Ø ÓÒ ´× Ò




Ø Ð ÓÖ ØÑ× Ö × Ø ÙÔ ØÓ Ñ Ò Ñ Þ µº ÖÓÑ Ø Ô
ØÙÖ ¸ ÝÓÙ
Ò × Ø³×
ÐÓ× ØÓ (0, 0)¸ ÙØ



Ð Ø³× ÔÖ Ø Ò Ø Ö × Ó ¸ Ò Ø Ø Û ÓÒ³Ø ÒÓÛ Ø Øº Ì ÔÖÓ Ö Ñ Ó ÝÅÓÙÒØ ÒºÑ



× ÓÛ× Ø Ø ÔÓÓÖ ×Ø ÖØ Ú ÐÙ ×
Ò Ð ØÓ ÔÖÓ Ð Ñ׺ ÁØ Ù× × Ë ¸ Û
Ò × Ø ØÖÙ ÐÓ Ð



Ñ Ò ÑÙѸ Ò Ø × ÓÛ× Ø Ø Ë Ù× Ò ØØ ÖÝ Ó Ö Ò ÓÑ ×Ø ÖØ Ú ÐÙ ×
Ò Ð×Ó Ò



Ø ÐÓ Ð Ñ Ò ÑÙÑ ÐÔº Ì ÓÙØÔÙØ Ó ÓÒ ÖÙÒ × Ö



ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ

º ÆÍÅ ÊÁ ÇÈÌÁÅÁ ÌÁÇÆ ÈÁÌ ÄÄË ½









ËÅÁÆ Ò Ð Ö ×ÙÐØ×



Í× ÒÙÑ Ö
Ö ÒØ



¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

ËÌÊÇÆ ÇÆÎ Ê Æ

ÙÒ
Ø ÓÒ
ÓÒÚ ½ È Ö Ñ
ÓÒÚ ½ Ö ÒØ
ÓÒÚ ½

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¹¼º¼½¿¼¿¾

ËØ Ô× Þ ¼º½¼¾ ¿¿

¿ Ø Ö Ø ÓÒ×

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹



Ô Ö Ñ Ö ÒØ
Ò

½ º ¹¼º¼¼¼¼ ¼º¼¼¼¼

¹¾ º ½½ ¼º¼¼¼¼ ¼º¼¼¼¼

Ì Ö ×ÙÐØ Û Ø ÔÓÓÖ ×Ø ÖØ Ú ÐÙ ×

Ò×



½ º¼¼¼ ¹¾ º ½¾









Ë ÅÁÆ Ò Ð Ö ×ÙÐØ×

ÆÇÊÅ Ä ÇÆÎ Ê Æ



ÙÒ
º ØÓк ½º¼¼¼¼¼¼ ¹½¼ È Ö Ñº ØÓк ½º¼¼¼¼¼¼ ¹¼¿

Ç º Òº Ú ÐÙ ¹¼º½¼¼¼¾¿



Ô Ö Ñ Ø Ö × Ö
Û Ø

¼º¼¿ ½ ¼º¼¼¼¼½

¹¼º¼¼¼¼¼¼ ¼º¼¼¼¼ ½



ÆÓÛ ØÖÝ ØØ ÖÝ Ó Ö Ò ÓÑ ×Ø ÖØ Ú ÐÙ × Ò

× ÓÖØ Ë ÓÒ
¸ Ø Ò Ø Ö Ø ØÓ
ÓÒÚ Ö Ò


Ì Ö ×ÙÐØ Ù× Ò ¾¼ Ö Ò ÓÑ× ×Ø ÖØ Ú ÐÙ ×

Ò×



¿º ½ ¹¼¾ ¾º ¾ ¹¼



Ì ØÖÙ Ñ Ü Ñ Þ Ö × Ò Ö ´¼º¼¿ ¸¼µ





ÁÒ Ø Ø ÖÙÒ¸ Ø × Ò Ð Ë ÖÙÒ Û Ø ×Ø ÖØ Ú ÐÙ ×
ÓÒÚ Ö ØÓ ÔÓ ÒØ Ö ÖÓÑ



Ø ØÖÙ Ñ Ò Ñ Þ Ö¸ Û
× ÑÙÐ Ø ÒÒ Ð Ò Ò Ë Ù× Ò ØØ ÖÝ Ó Ö Ò ÓÑ ×Ø ÖØ



Ú ÐÙ × ÓØ ÓÙÒ Ø ØÖÙ Ñ Ü Ñ Þ Öº ØØ ÖÝ Ó Ö Ò ÓÑ ×Ø ÖØ Ú ÐÙ × Ñ Ò ØÓ Ò

º ÆÍÅ ÊÁ ÇÈÌÁÅÁ ÌÁÇÆ ÈÁÌ ÄÄË ½ ¼







Ø ÐÓ Ð Ñ Üº Ì ÑÓÖ Ð Ó Ø ×ØÓÖÝ ×
ÙØ ÓÙ× Ò ÓÒ³Ø ÔÙ Ð × ÝÓÙÖ Ö ×ÙÐØ× ØÓÓ



ÕÙ
Ðݺ

Ê ÁË Ë ½ ½







Ü Ö
× ×

´½µ ÁÒ Ó
Ø Ú ¸ ØÝÔ ÐÔ ×Ñ Ò Ü ÑÔÐ ¸ ØÓ Ò ÓÙØ Ø ÐÓ
Ø ÓÒ Ó Ø Ð º Ø Ø



Ð ØÓ Ü Ñ Ò Ø Ò Ð ÖÒ ÓÛ ØÓ
ÐÐ ×Ñ Òº ÊÙÒ Ø¸ Ò Ü Ñ Ò Ø ÓÙØÔÙغ



´¾µ ÁÒ Ó
Ø Ú ¸ ØÝÔ ÐÔ × Ñ Ò Ü ÑÔÐ ¸ ØÓ Ò ÓÙØ Ø ÐÓ
Ø ÓÒ Ó Ø Ð º Ø Ø



Ð ØÓ Ü Ñ Ò Ø Ò Ð ÖÒ ÓÛ ØÓ
ÐÐ × Ñ Òº ÊÙÒ Ø¸ Ò Ü Ñ Ò Ø ÓÙØÔÙغ



´¿µ Í× Ò ÐÓ ØºÑ Ò ×Ø Ñ Ø ÄÓ ØºÑ × Ø ÑÔÐ Ø ×¸ ÛÖ Ø ÙÒ
Ø ÓÒ ØÓ
Ð
ÙÐ Ø Ø



ÔÖÓ Ø ÐÓ Ð Ð ÓÓ ¸ Ò ×
Ö ÔØ ØÓ ×Ø Ñ Ø ÔÖÓ Ø ÑÓ Ðº ÊÙÒ Ø Ù× Ò Ø Ø Ø




ØÙ ÐÐÝ ÓÐÐÓÛ× ÐÓ Ø ÑÓ Ð ´ÝÓÙ
Ò Ò Ö Ø Ø Ò Ø × Ñ Û Ý Ø Ø × ÓÒ Ò Ø



ÐÓ Ø Ü ÑÔÐ µº



´ µ ËØÙ Ý ÑÐ Ö ×ÙÐØ×ºÑ ØÓ × Û Ø Ø Ó ×º Ü Ñ Ò Ø ÙÒ
Ø ÓÒ× Ø Ø ÑÐ Ö ×ÙÐØ׺Ñ


ÐÐ׸ Ò Ò ØÙÖÒ Ø ÙÒ
Ø ÓÒ× Ø Ø Ø Ó× ÙÒ
Ø ÓÒ×
Ðк ÏÖ Ø
ÓÑÔÐ Ø ×
Ö ÔØ ÓÒ



Ó ÓÛ Ø Û ÓÐ
Ò ÛÓÖ ×º



´ µ ÄÓÓ Ø Ø ÈÓ ××ÓÒ ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× ÓÖ Ø Ç Î Ñ ×ÙÖ Ó ÐØ
Ö Ù× Ò



Ú Ò
ÓÒÓÑ
ÒØ ÖÔÖ Ø Ø ÓÒº ×Ø Ñ Ø ÈÓ ××ÓÒ ÑÓ Ð× ÓÖ Ø ÓØ Ö Ñ ×ÙÖ × Ó



ÐØ
Ö Ù× º

À ÈÌ Ê ½







×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ó ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ×



Ê Ò × ÓÙÖ ÖÓÙÜ Ò ÅÓÒ ÓÖØ ´½ µ¸ ÎÓк ¾¸ º ¾

∗; Ñ Ñ Ý ¸ º ×
Ø ÓÒ



º½

∗ Ú ×ÓÒ Ò Å
à ÒÒÓÒ¸ ÔÔº ½¹ ÐÐ Òظ º ¿ Æ Û Ý Ò Å
Ò ´½ µ¸



Ä Ö Ë ÑÔÐ ×Ø Ñ Ø ÓÒ Ò ÀÝÔÓØ × × Ì ×Ø Ò ¸ Ò À Ò ÓÓ Ó
ÓÒÓÑ ØÖ
׸ ÎÓк ¸



º ¿ º





½º ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ×

ÁÒ Ò Ø ÓÒ ¼º½ Û Ò Ò ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ ˆ

θ × Ø ÓÔØ Ñ Þ Ò Ð Ñ ÒØ Ó Ò



Ó
Ø Ú ÙÒ
Ø ÓÒ sn (θ) ÓÚ Ö × Ø Θº Ä Ø Ø Ó
Ø Ú ÙÒ
Ø ÓÒ sn (Zn , θ) Ô Ò ÙÔÓÒ

′

n×p Ö Ò ÓÑ Ñ ØÖ Ü Zn = z1 z2 · · · zn Û Ö Ø zt Ö p¹Ú
ØÓÖ× Ò p × Ò Ø º





Ü ÑÔÐ ½ º Ú Ò Ø ÑÓ Ð yi = x′ θ + εi , Û Ø n

i Ó × ÖÚ Ø ÓÒ׸ Ò zi = (yi , x′ )′ .

i

Ì ÇÄË ×Ø Ñ ØÓÖ Ñ Ò Ñ Þ ×

n

2

sn (Zn , θ) = 1/n y i − x′ θ

i

i=1

2

= 1/n Y − Xθ



Û Ö Y Ò X Ö Ò × Ñ Ð ÖÐÝ ØÓ Z.



¾º ÓÒ× ×Ø Ò
Ý

Ì ÓÐÐÓÛ Ò Ø ÓÖ Ñ × Ô ØØ ÖÒ ÓÒ ÔÖÓÓ Ò ÐÐ ÒØ ´½ µ ´Ø ÖØ
Ð ¸ Ö º Ð Ø Öµ¸



Û
Û ³ÐÐ × Ò Ø× ÓÖ Ò Ð ÓÖÑ Ð Ø Ö Ò Ø
ÓÙÖ× º ÁØ × ÒØ Ö ×Ø Ò ØÓ
ÓÑÔ Ö Ø



ÓÐÐÓÛ Ò ÔÖÓÓ Û Ø Ñ Ñ Ý ³× Ì ÓÖ Ñ º½º½¸ Û
× ÓÒ Ò Ø ÖÑ× Ó
ÓÒÚ Ö Ò
Ò



ÔÖÓ Ð Øݺ





Ì ÓÖ Ñ ½ º ÓÒ× ×Ø Ò
Ý Ó º º℄ ËÙÔÔÓ× Ø Ø ˆ

θn × Ó Ø Ò Ý Ñ Ü Ñ Þ Ò sn (θ)

ÓÚ Ö Θ.

××ÙÑ



´½µ ÓÑÔ
ØÒ ×× Ì Ô Ö Ñ Ø Ö ×Ô
Θ × Ò ÓÔ Ò ÓÙÒ ×Ù × Ø Ó Ù
Ð Ò



×Ô
ℜK . ËÓ Ø
ÐÓ×ÙÖ Ó Θ, Θ¸ ×
ÓÑÔ
غ



´¾µ ÍÒ ÓÖÑ ÓÒÚ Ö Ò
Ì Ö × ÒÓÒ×ØÓ
×Ø
ÙÒ
Ø ÓÒ s∞ (θ) Ø Ø ×
ÓÒØ ÒÙÓÙ×



Ò θ ÓÒ Θ ×Ù
Ø Ø





lim sup |sn (θ) − s∞ (θ)| = 0, º×º

n→∞

θ∈Θ



´¿µ Á ÒØ
Ø ÓÒ s∞ (·) × ÙÒ ÕÙ ÐÓ Ð Ñ Ü ÑÙÑ Ø θ 0 ∈ Θ, º º¸ s∞ (θ 0 ) >

s∞ (θ), ∀θ = θ 0 , θ ∈ Θ

Ì Ò ˆ a.s.

θn → θ 0 .



ÈÖÓÓ Ë Ð
Ø ω ∈ Ω Ò ÓÐ Ø Ü º Ì Ò {sn (ω, θ)} × Ü × ÕÙ Ò
Ó



ÙÒ
Ø ÓÒ׺ ËÙÔÔÓ× Ø Ø ω × ×Ù
Ø Ø sn (θ)
ÓÒÚ Ö × ÙÒ ÓÖÑÐÝ ØÓ s∞ (θ). Ì × ÔÔ Ò×



Û Ø ÔÖÓ Ð ØÝ ÓÒ Ý ××ÙÑÔØ ÓÒ ´ µº Ì × ÕÙ Ò
ˆ

{θn } Ð × Ò Ø
ÓÑÔ
Ø × Ø Θ, Ý



½ ¾

¾º ÇÆËÁËÌ Æ ½ ¿







××ÙÑÔØ ÓÒ ´½µ Ò Ø
Ø Ø Ø Ñ Ü Ñ Ü Ø ÓÒ × ÓÚ Ö Θº Ë Ò
Ú ÖÝ × ÕÙ Ò
ÖÓÑ




ÓÑÔ
Ø × Ø × Ø Ð ×Ø ÓÒ Ð Ñ Ø ÔÓ ÒØ ´ Ú ×ÓÒ¸ Ì Ñº ¾º½¾µ¸ × Ý Ø Ø ˆ

θ × Ð Ñ Ø ÔÓ ÒØ

ˆ

Ó {θn }. Ì Ö × ×Ù × ÕÙ Ò
ˆ

{θnm } ´{nm } × × ÑÔÐÝ × ÕÙ Ò
Ó Ò
Ö × Ò ÒØ Ö×µ

ˆn = θº

Û Ø limm→∞ θ m ˆ Ý ÙÒ ÓÖÑ
ÓÒÚ Ö Ò
Ò
ÓÒØ ÒÙ ØÝ



ˆ ˆ

lim snm (θnm ) = s∞ (θ).

m→∞



ÌÓ × Ø ×¸ Ö×Ø Ó Ðи × Ð
Ø Ò Ð Ñ ÒØ ˆ

θt ÖÓÑ Ø × ÕÙ Ò
ˆ

θ nm . Ì Ò ÙÒ ÓÖÑ




ÓÒÚ Ö Ò
ÑÔÐ ×

ˆ ˆ

lim snm (θt ) = s∞ (θt ).

m→∞

ÓÒØ ÒÙ ØÝ Ó s∞ (·) ÑÔÐ × Ø Ø



ˆ ˆ

lim s∞ (θt ) = s∞ (θ)

t→∞



× Ò
Ø Ð Ñ Ø × t→∞ Ó ˆ

θt × ˆ

θº ËÓ Ø ÓÚ
Ð Ñ × ØÖÙ º



Æ Üظ Ý Ñ Ü Ñ Þ Ø ÓÒ

ˆ

snm (θnm ) ≥ snm (θ 0 )

Û
ÓÐ × Ò Ø Ð Ñ Ø¸ ×Ó



ˆ

lim snm (θnm ) ≥ lim snm (θ 0 ).

m→∞ m→∞



ÀÓÛ Ú Ö¸

ˆ ˆ

lim snm (θnm ) = s∞ (θ),

m→∞

× × Ò ÓÚ ¸ Ò



lim snm (θ 0 ) = s∞ (θ 0 )

m→∞

Ý ÙÒ ÓÖÑ
ÓÒÚ Ö Ò
¸ ×Ó

ˆ

s∞ (θ) ≥ s∞ (θ 0 ).

ÙØ Ý ××ÙÑÔØ ÓÒ ´¿µ¸ Ø Ö × ÙÒ ÕÙ ÐÓ Ð Ñ Ü ÑÙÑ Ó s∞ (θ) Ø θ 0 , ×Ó Û ÑÙ×Ø Ú

ˆ

s∞ (θ) = s∞ (θ 0 ), Ò ˆ

θ = θ0. Ò ÐÐݸ ÐÐ Ó Ø ÓÚ Ð Ñ Ø× ÓÐ ÐÑÓ×Ø ×ÙÖ Ðݸ × Ò
×Ó



Ö Û Ú Ð ω Ü ¸ ÙØ ÒÓÛ Û Ò ØÓ
ÓÒ× ω ∈ Ωº

Ö ÐÐ Ì Ö ÓÖ ˆ

{θn } × ÓÒÐÝ



ÓÒ Ð Ñ Ø ÔÓ Òظ θ0, Ü
ÔØ ÓÒ × Ø C⊂Ω Û Ø P (C) = 0.

×
Ù×× ÓÒ Ó Ø ÔÖÓÓ

• Ì × ÔÖÓÓ Ö Ð × ÓÒ Ø ÒØ
Ø ÓÒ ××ÙÑÔØ ÓÒ Ó ÙÒ ÕÙ ÐÓ Ð Ñ Ü ÑÙÑ Ø



θ0. Ò ÕÙ Ú Ð ÒØ Û Ý ØÓ ×Ø Ø Ø × ×





´¾µ Á ÒØ
Ø ÓÒ ÒÝ ÔÓ ÒØ θ Ò Θ Û Ø s∞ (θ) ≥ s∞ (θ 0 ) ÑÙ×Ø ×Ù
Ø Ø θ − θ 0 = 0,

Û
Ñ Ø
× Ø Û Ý Û Û ÐÐ ÛÖ Ø Ø ××ÙÑÔØ ÓÒ Ò Ø ×
Ø ÓÒ ÓÒ ÒÓÒÔ Ö Ñ ØÖ




Ò Ö Ò
º





• Ï ××ÙÑ Ø Ø ˆ

θn × Ò
Ø ÐÓ Ð Ñ Ü ÑÙÑ Ó sn (θ) . ÁØ × ÒÓØ Ö ÕÙ Ö ØÓ



ÙÒ ÕÙ ÓÖ n Ò Ø ¸ Ø ÓÙ Ø ÒØ
Ø ÓÒ ××ÙÑÔØ ÓÒ Ö ÕÙ Ö × Ø Ø Ø Ð Ñ Ø Ò



Ó
Ø Ú ÙÒ
Ø ÓÒ Ú ÙÒ ÕÙ Ñ Ü Ñ Þ Ò Ö ÙÑ Òغ Ì ÔÖ Ú ÓÙ× ×
Ø ÓÒ ÓÒ



ÒÙÑ Ö
ÓÔØ Ñ Þ Ø ÓÒ Ñ Ø Ó × × ÓÛ Ø Ø
ØÙ ÐÐÝ Ò Ò Ø ÐÓ Ð Ñ Ü ÑÙÑ



Ó sn (θ) Ñ Ý ÒÓÒ¹ØÖ Ú Ð ÔÖÓ Ð Ñº



• Ë Ñ Ñ Ý ³× Ü ÑÔÐ º½º ÓÖ
× Û Ö ×
ÓÒØ ÒÙ ØÝ Ð × ØÓ Ö ÓÛÒ



Ó
ÓÒ× ×Ø Ò
ݺ



• Ì ××ÙÑÔØ ÓÒ Ø Ø θ0 × Ò Ø ÒØ Ö ÓÖ Ó Θ ´Ô ÖØ Ó Ø ÒØ
Ø ÓÒ ××ÙÑÔ¹



Ø ÓÒµ × ÒÓØ Ò Ù× ØÓ ÔÖÓÚ
ÓÒ× ×Ø Ò
ݸ ×Ó Û
ÓÙÐ Ö
ØÐÝ ××ÙÑ Ø Ø θ0

× × ÑÔÐÝ Ò Ð Ñ ÒØ Ó
ÓÑÔ
Ø × Ø Θ. Ì Ö ×ÓÒ Ø Ø Û ××ÙÑ Ø³× Ò Ø

¾º ÇÆËÁËÌ Æ ½







ÒØ Ö ÓÖ Ö ×Ø ØØ × × Ò
×× ÖÝ ÓÖ ×Ù × ÕÙ ÒØ ÔÖÓÓ Ó ×ÝÑÔØÓØ
ÒÓÖÑ Ð Øݸ



Ò Á³ Ð ØÓ Ñ ÒØ Ò Ñ Ò Ñ Ð × Ø Ó × ÑÔÐ ××ÙÑÔØ ÓÒ׸ ÓÖ
Ð Ö Øݺ È Ö Ñ¹



Ø Ö× ÓÒ Ø ÓÙÒ ÖÝ Ó Ø Ô Ö Ñ Ø Ö × Ø
Ù× Ø ÓÖ Ø
Ð
ÙÐØ × Ø Ø Û



Û ÐÐ ÒÓØ Ð Û Ø Ò Ø ×
ÓÙÖ× º ÂÙ×Ø ÒÓØ Ø Ø
ÓÒÚ ÒØ ÓÒ Ð ÝÔÓØ × × Ø ×Ø Ò



Ñ Ø Ó × Ó ÒÓØ ÔÔÐÝ Ò Ø ×
× º



• ÆÓØ Ø Ø sn (θ) × ÒÓØ Ö ÕÙ Ö ØÓ
ÓÒØ ÒÙÓÙ׸ Ø ÓÙ s∞ (θ) ׺



• Ì ÓÐÐÓÛ Ò ÙÖ × ÐÐÙ×ØÖ Ø Û Ý ÙÒ ÓÖÑ
ÓÒÚ Ö Ò
× ÑÔÓÖØ Òغ ÁÒ Ø



×
ÓÒ ÙÖ ¸ Ø ÙÒ
Ø ÓÒ × ÒÓØ
ÓÒÚ Ö Ò ÖÓÙÒ Ø ÐÓÛ Ö Ó Ø ØÛÓ Ñ Ü Ñ ¸



Ø Ö × ÒÓ Ù Ö ÒØ Ø Ø Ø Ñ Ü Ñ Þ Ö Û ÐÐ ÒØ Ò ÓÖ ÓÓ Ó Ø ÐÓ Ð



Ñ Ü Ñ Þ Öº









With uniform convergence, the maximum of the sample

objective function eventually must be in the neighborhood

of the maximum of the limiting objective function









With pointwise convergence, the sample objective function

may have its maximum far away from that of the limiting

objective function









Ï Ò ÙÒ ÓÖÑ ×ØÖÓÒ Ð Û Ó Ð Ö ÒÙÑ Ö× Ò ÓÖ Ö ØÓ Ú Ö Ý ××ÙÑÔØ ÓÒ ´¾µ Ó



Ì ÓÖ Ñ ½ º Ì ÓÐÐÓÛ Ò Ø ÓÖ Ñ × ÖÓÑ Ú ×ÓÒ¸ Ô º ¿¿ º

¿º ÅÈÄ ÇÆËÁËÌ Æ Ç Ä ËÌ ËÉÍ Ê Ë ½







Ì ÓÖ Ñ ¾¼º ÍÒ ÓÖÑ ËØÖÓÒ ÄÄÆ℄ Ä Ø {Gn (θ)} × ÕÙ Ò
Ó ×ØÓ
×Ø
Ö Ð¹



Ú ÐÙ ÙÒ
Ø ÓÒ× ÓÒ ØÓØ ÐÐݹ ÓÙÒ Ñ ØÖ
×Ô
(Θ, ρ). Ì Ò



a.s.

sup |Gn (θ)| → 0

θ∈Θ



Ò ÓÒÐÝ

a.s.

´ µ Gn (θ) → 0 ÓÖ
θ ∈ Θ0 , Û Ö Θ0 × Ò× ×Ù × Ø Ó Θ Ò



´ µ {Gn (θ)} × ×ØÖÓÒ ÐÝ ×ØÓ
×Ø
ÐÐÝ ÕÙ
ÓÒØ ÒÙÓÙ׺º







• Ì Ñ ØÖ
×Ô
Û Ö ÒØ Ö ×Ø Ò ÒÓÛ × × ÑÔÐÝ Θ ⊂ ℜK , Ù× Ò Ø Ù
Ð Ò



ÒÓÖѺ



• Ì ÔÓ ÒØÛ × ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
Ò ÓÖ ××ÙÔØ ÓÒ ´ µ
ÓÑ × ÖÓÑ ÓÒ



Ó Ø Ù×Ù Ð ËÄÄƳ׺



• ËØÖÓÒ Ö ××ÙÑÔØ ÓÒ× Ø Ø ÑÔÐÝ Ø Ó× Ó Ø Ø ÓÖ Ñ Ö



Ø Ô Ö Ñ Ø Ö ×Ô
×
ÓÑÔ
Ø ´Ø × × ÐÖ Ý Ò ××ÙÑ µ



Ø Ó
Ø Ú ÙÒ
Ø ÓÒ ×
ÓÒØ ÒÙÓÙ× Ò ÓÙÒ Û Ø ÔÖÓ Ð ØÝ ÓÒ ÓÒ Ø



ÒØ Ö Ô Ö Ñ Ø Ö ×Ô




×Ø Ò Ö ËÄÄÆ
Ò × ÓÛÒ ØÓ ÔÔÐÝ ØÓ ×ÓÑ ÔÓ ÒØ Ò Ø Ô Ö Ñ Ø Ö



×Ô




• Ì × Ö Ö ×ÓÒ Ð
ÓÒ Ø ÓÒ× Ò Ñ ÒÝ
× ×¸ Ò Ò
ÓÖØ Û Ò Ð Ò Û Ø



×Ô

×Ø Ñ ØÓÖ× Û ³ÐÐ × ÑÔÐÝ ××ÙÑ Ø Ø ÔÓ ÒØÛ × ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò





Ò ÜØ Ò ØÓ ÙÒ ÓÖÑ ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
Ò Ø × Û Ýº



• Ì ÑÓÖ Ò Ö Ð Ø ÓÖ Ñ × Ù× ÙÐ Ò Ø
× Ø Ø Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ




Ò
ÓÒØ ÒÙÓÙ× Ò θ Ú Ò sn (θ) × ×
ÓÒØ ÒÙÓÙ׺ Ì ×
Ò ÔÔ Ò
Ù×



×
ÓÒØ ÒÙ Ø × Ñ Ý ×ÑÓÓØ ÓÙØ × Û Ø ÜÔ
Ø Ø ÓÒ× ÓÚ Ö Ø Ø º ÁÒ



Ø ×
Ø ÓÒ ÓÒ × ÑÐ Ø ÓÒ¹ × ×Ø Ñ Ø ÓÒ Û Û ÐÐ ×
× Ó ×
ÓÒØ ÒÙÓÙ×



Ó
Ø Ú ÙÒ
Ø ÓÒº









¿º Ü ÑÔÐ ÓÒ× ×Ø Ò
Ý Ó Ä ×Ø ËÕÙ Ö ×

Ï ×ÙÔÔÓ× Ø Ø Ø × (y, w)¸ Û Ö yt = α0 + β 0 wt

Ò Ö Ø Ý Ö Ò ÓÑ × ÑÔÐ Ò Ó



+εt º (wt , εt ) × Ø
ÓÑÑÓÒ ×ØÖ ÙØ ÓÒ ÙÒ
Ø ÓÒ µw µε ´w Ò ε Ö Ò Ô Ò Òص Û Ø

×ÙÔÔÓÖØ W × E. ËÙÔÔÓ× Ø Ø Ø

2 2

Ú Ö Ò
× σw Ò σε Ö

0 0 0 ′

Ò Ø º Ä Ø θ = (α , β ) ∈ Θ,

′ ′ 0

ÓÖ Û
Θ ×
ÓÑÔ
غ Ä Ø xt = (1, wt ) , ×Ó Û
Ò ÛÖ Ø yt = xt θ + εt . Ì × ÑÔÐ



Ó
Ø Ú ÙÒ
Ø ÓÒ ÓÖ × ÑÔÐ × Þ n ×

n n

2 2

sn (θ) = 1/n yt − x′ θ

t = 1/n x′ θ 0 + εt − x′ θ

t t

t=1 i=1

n n n

2

= 1/n x′ θ 0 − θ

t + 2/n x′ θ 0 − θ εt + 1/n

t ε2

t

t=1 t=1 t=1



• ÓÒ× Ö Ò Ø Ð ×Ø Ø ÖѸ Ý Ø ËÄÄƸ

n

a.s.

1/n ε2 →

t

2

ε2 dµW dµE = σε .

t=1 W E



• ÓÒ× Ö Ò Ø ×
ÓÒ Ø ÖѸ × Ò
E(ε) = 0 Ò w Ò ε Ö Ò Ô Ò Òظ Ø



ËÄÄÆ ÑÔÐ × Ø Ø Ø
ÓÒÚ Ö × ØÓ Þ ÖÓº

º Ë ÅÈÌÇÌÁ ÆÇÊÅ ÄÁÌ ½







• Ò ÐÐݸ ÓÖ Ø Ö×Ø Ø ÖѸ ÓÖ Ú Ò θ¸ Û ××ÙÑ Ø Ø ËÄÄÆ ÔÔÐ × ×Ó Ø Ø

n

2 a.s. 2

´¿½µ 1/n x′ θ 0 − θ

t → x′ θ 0 − θ dµW

t=1 W



2 2

= α0 − α + 2 α0 − α β0 − β wdµW + β 0 − β w2 dµW

W W

2 2

= α0 − α + 2 α0 − α β 0 − β E(w) + β 0 − β E w2



Ò ÐÐݸ Ø Ó
Ø Ú ÙÒ
Ø ÓÒ ×
Ð ÖÐÝ
ÓÒØ ÒÙÓÙ׸ Ò Ø Ô Ö Ñ Ø Ö ×Ô
× ××ÙÑ



ØÓ
ÓÑÔ
ظ ×Ó Ø
ÓÒÚ Ö Ò
× Ð×Ó ÙÒ ÓÖѺ Ì Ù׸



2 2

s∞ (θ) = α0 − α + 2 α0 − α β 0 − β E(w) + β 0 − β E w 2 + σε

2





Ñ Ò Ñ Þ Ö Ó Ø × ×
Ð ÖÐÝ α = α0 , β = β 0 .

Ü Ö
× ¾½º Ë ÓÛ Ø Ø Ò ÓÖ Ö ÓÖ Ø ÓÚ ×ÓÐÙØ ÓÒ ØÓ ÙÒ ÕÙ Ø × Ò
×× ÖÝ Ø Ø



E(w2 ) = 0. ×
Ù×× Ø Ö Ð Ø ÓÒ× Ô ØÛ Ò Ø ×
ÓÒ Ø ÓÒ Ò Ø ÔÖÓ Ð Ñ Ó
ÓÐ Ò Ö ØÝ



Ó Ö Ö ××ÓÖ׺



Ì × Ü ÑÔÐ × ÓÛ× Ø Ø Ì ÓÖ Ñ ½
Ò Ù× ØÓ ÔÖÓÚ ×ØÖÓÒ
ÓÒ× ×Ø Ò
Ý Ó Ø



ÇÄË ×Ø Ñ ØÓÖº Ì Ö Ö × Ö Û Ý× ØÓ × ÓÛ Ø ×¸ Ó
ÓÙÖ× ¹ Ø × × ÓÒÐÝ Ò Ü ÑÔÐ Ó



ÔÔÐ
Ø ÓÒ Ó Ø Ø ÓÖ Ñº





º ×ÝÑÔØÓØ
ÆÓÖÑ Ð ØÝ


ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ × Ó Ø ÒØ Ñ × ÒÓØ Ú ÖÝ Ù× ÙÐ ÙÒÐ ×× Û ÒÓÛ ÓÛ ×Ø Ø × Ð ÐÝ



ØÓ
ÓÒÚ Ö Ò ØÓ Ø ØÖÙ Ú ÐÙ ¸ Ò Ø ÔÖÓ Ð ØÝ Ø Ø Ø × Ö Û Ý ÖÓÑ Ø ØÖÙ



Ú ÐÙ º ×Ø Ð × Ñ ÒØ Ó ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Û Ø ÒÓÛÒ ×
Ð Ò
ØÓÖ ×ÓÐÚ × Ø × ØÛÓ



ÔÖÓ Ð Ñ׺ Ì ÓÐÐÓÛ Ò Ø ÓÖ Ñ × × Ñ Ð Ö ØÓ Ñ Ñ Ý ³× Ì ÓÖ Ñ º½º¿ ´Ô º ½½½µº





Ì ÓÖ Ñ ¾¾º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Ó º º℄ ÁÒ Ø ÓÒ ØÓ Ø ××ÙÑÔØ ÓÒ× Ó Ì ¹



ÓÖ Ñ ½ ¸ ××ÙÑ



´ µ

2

Jn (θ) ≡ Dθ sn (θ) Ü ×Ø× Ò ×
ÓÒØ ÒÙÓÙ× Ò Ò ÓÔ Ò¸
ÓÒÚ Ü Ò ÓÖ ÓÓ Ó θ .

0

a.s. 0

´ µ {Jn (θn )} → J∞ (θ ), Ò Ø Ò Ø Ú Ò Ø Ñ ØÖ Ü¸ ÓÖ ÒÝ × ÕÙ Ò
{θn } Ø Ø




ÓÒÚ Ö × ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ θ

0.

√ d √

´
µ nDθ sn (θ 0 ) → N 0, I∞ (θ 0 ) , Û Ö I∞ (θ 0 ) = limn→∞ V ar nDθ sn (θ 0 )

√ ˆ d

Ì Ò n θ − θ 0 → N 0, J∞ (θ 0 )−1 I∞ (θ 0 )J∞ (θ 0 )−1

ÈÖÓÓ Ý Ì ÝÐÓÖ ÜÔ Ò× ÓÒ



ˆ ˆ

Dθ sn (θn ) = Dθ sn (θ 0 ) + Dθ sn (θ ∗ ) θ − θ 0

2





Û Ö ˆ

θ ∗ = λθ + (1 − λ)θ 0 , 0 ≤ λ ≤ 1.

ˆ

• ÆÓØ Ø Ø θ Û ÐÐ Ò Ø Ò ÓÖ ÓÓ Û Ö

2

Dθ sn (θ) Ü ×Ø× Û Ø ÔÖÓ Ð ØÝ



ÓÒ × n
ÓÑ × Ð Ö ¸ Ý
ÓÒ× ×Ø Ò
ݺ



• ÆÓÛ Ø Ðº º×º Ó Ø × ÕÙ Ø ÓÒ × Þ ÖÓ¸ Ø Ð ×Ø ×ÝÑÔØÓØ
ÐÐݸ × Ò
ˆ

θn ×



Ñ Ü Ñ Þ Ö Ò Ø ºÓº
º ÑÙ×Ø ÓÐ Ü
ØÐÝ × Ò
Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ



× ×ØÖ
ØÐÝ
ÓÒ
Ú Ò Ò ÓÖ ÓÓ

0

Ó θ .



• Ð×Ó¸ × Ò
θ∗ × ØÛ Ò ˆ

θn Ò θ0, Ò × Ò
ˆ a.s.

θn → θ 0 ¸ ××ÙÑÔØ ÓÒ ´ µ Ú ×



a.s.

Dθ sn (θ ∗ ) → J∞ (θ 0 )

2





ËÓ



0 = Dθ sn (θ 0 ) + J∞ (θ 0 ) + op (1) ˆ

θ − θ0

º ÅÈÄ Ë ½







Ò

√ √

0= nDθ sn (θ 0 ) + J∞ (θ 0 ) + op (1) ˆ

n θ − θ0

ÆÓÛ J∞ (θ 0 ) × Ò Ø Ò Ø Ú Ò Ø Ñ ØÖ Ü¸ ×Ó Ø op (1) Ø ÖÑ × ×ÝÑÔØÓØ
ÐÐÝ ÖÖ Ð ¹

0

Ú ÒØ Ò ÜØ ØÓ J∞ (θ )¸ ×Ó Û
Ò ÛÖ Ø



a √ √ ˆ

0= nDθ sn (θ 0 ) + J∞ (θ 0 ) n θ − θ 0

√ a √

ˆ

n θ − θ 0 = −J∞ (θ 0 )−1 nDθ sn (θ 0 )


Ù× Ó ××ÙÑÔØ ÓÒ ´
µ¸ Ò Ø ÓÖÑÙÐ ÓÖ Ø Ú Ö Ò
Ó Ð Ò Ö
ÓÑ Ò Ø ÓÒ Ó



ÖºÚº³×¸

√ d

ˆ

n θ − θ 0 → N 0, J∞ (θ 0 )−1 I∞ (θ 0 )J∞ (θ 0 )−1

• ××ÙÑÔØ ÓÒ ´ µ × ÒÓØ ÑÔÐ Ý Ø ËÐÙØ× Ý Ø ÓÖ Ñº Ì ËÐÙØ× Ý Ø ÓÖ Ñ × Ý×

a.s.

Ø Ø g(xn ) → g(x) xn → x Ò g(·) ×
ÓÒØ ÒÙÓÙ× Ø x. ÀÓÛ Ú Ö¸ Ø ÙÒ
Ø ÓÒ



g(·)
Ò³Ø Ô Ò ÓÒ n ØÓ Ù× Ø × Ø ÓÖ Ñº ÁÒ ÓÙÖ
× Jn (θn ) × ÙÒ
Ø ÓÒ Ó n.

Ø ÓÖ Ñ Û
ÔÔÐ × ´ Ñ Ñ Ý ¸ º µ ×





Ì ÓÖ Ñ ¾¿º Á gn (θ)
ÓÒÚ Ö × ÙÒ ÓÖÑÐÝ ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ ÒÓÒ×ØÓ
×Ø
ÙÒ
Ø ÓÒ



g∞ (θ) ÙÒ ÓÖÑÐÝ ÓÒ Ò ÓÔ Ò Ò ÓÖ ÓÓ

0

Ó θ , Ø Ò ˆ a.s.

gn (θ) → g∞ (θ 0 ) g∞ (θ 0 ) ×
ÓÒ¹

Ø ÒÙÓÙ× Ø θ

0 Ò ˆ a.s.

θ → θ0.



• ÌÓ ÔÔÐÝ Ø × ØÓ Ø ×
ÓÒ Ö Ú Ø Ú ×¸ ×Ù
ÒØ
ÓÒ Ø ÓÒ× ÛÓÙÐ Ø Ø Ø



×
ÓÒ Ö Ú Ø Ú × ×ØÖÓÒ ÐÝ ×ØÓ
×Ø
ÐÐÝ ÕÙ
ÓÒØ ÒÙÓÙ× ÓÒ Ò ÓÖ ÓÓ



Ó θ0, Ò Ø Ø Ò ÓÖ Ò ÖÝ ÄÄÆ ÔÔÐ × ØÓ Ø Ö Ú Ø Ú × Û Ò Ú ÐÙ Ø Ø



θ∈ N (θ 0 ).

• ËØÖÓÒ Ö
ÓÒ Ø ÓÒ× Ø Ø ÑÔÐÝ Ø × Ö × ÓÚ
ÓÒØ ÒÙÓÙ× Ò ÓÙÒ ×
ÓÒ



Ö Ú Ø Ú × Ò Ò ÓÖ ÓÓ

0

Ó θ .







• Ë Ô Ø × Ò Ð
ØÙÖ º ÒÓØ ÓÒ Ø ÓÖ Ö Ó Ø × Ñ ØÖ
× ËÙÔÔÓ× Ò Ø Ø



sn (θ) × Ö ÔÖ × ÒØ Ð × Ò Ú Ö Ó nØ ÖÑ׸ Û
× Ø
× ÓÖ ÐÐ ×Ø Ñ ØÓÖ×



Û
ÓÒ×

2

Ö¸ Dθ sn (θ) × Ð×Ó Ò Ú Ö Ó n Ñ ØÖ
׸ Ø Ð Ñ ÒØ× Ó Û
Ö



ÒÓØ
ÒØ Ö ´Ø Ý Ó ÒÓØ Ú Þ ÖÓ ÜÔ
Ø Ø ÓÒµº ËÙÔÔÓ× Ò ËÄÄÆ ÔÔР׸ Ø



ÐÑÓ×Ø ×ÙÖ

2 0

Ð Ñ Ø Ó Dθ sn (θ ), J∞ (θ 0 ) = O(1), × Û × Û Ò Ü ÑÔÐ ½º ÇÒ Ø

√ d

ÓØ Ö Ò ¸ ××ÙÑÔØ ÓÒ ´
µ nDθ sn (θ 0 ) → N 0, I∞ (θ 0 ) Ñ Ò× Ø Ø

√

nDθ sn (θ 0 ) = Op ()

√

Û Ö Û Ù× Ø Ö ×ÙÐØ Ó Ü ÑÔÐ º Á Û Û Ö ØÓ ÓÑ Ø Ø n, Û ³ Ú



1

Dθ sn (θ 0 ) = n− 2 Op (1)

1

= Op n− 2



Û Ö Û Ù× Ø
Ø Ø Ø Op (nr )Op (nq ) = Op (nr+q ). Ì × ÕÙ Ò
Dθ sn (θ 0 ) ×

√


ÒØ Ö ¸ ×Ó Û Ò ØÓ ×
Ð Ý n ØÓ ÚÓ
ÓÒÚ Ö Ò
ØÓ Þ ÖÓº









º Ü ÑÔÐ ×

º½º ÓÒ ÔÔ Ò ¸ Ý Ø Òº Ê Ñ Ñ Ö Ø Ø Ò ×
Ø ÓÒ º½ Û × Û Ø Ø Ø ×¹



ÝÑÔØÓØ
Ú Ö Ò
Ó Ø ÅÄ Ó Ø Ô Ö Ñ Ø Ö Ó ÖÒÓÙÐÐ ØÖ Ð¸ Ù× Ò º º º Ø ¸ Û ×

√

p

lim V ar n (ˆ − p) = p (1 − p)º Ä Ø³× Ú Ö Ý Ø × Ù× Ò Ø Ñ Ø Ó × Ó Ø × ÔØ Öº Ì

º ÅÈÄ Ë ½







ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×

n

1

sn (p) = {yt ln p + (1 − yt ) (1 − ln p)}

n t=1

×Ó



Esn (p) = p0 ln p + 1 − p0 (1 − ln p)

Ý Ø
Ø Ø Ø Ø Ó × ÖÚ Ø ÓÒ× Ö º º º Ì Ù׸ s∞ (p) = p0 ln p + 1 − p0 (1 − ln p)º

Ø Ó
Ð
ÙÐ Ø ÓÒ × ÓÛ× Ø Ø



2 −1

Dθ sn (p) p=p0

≡ Jn (θ) = ,

p0 (1 − p0 )

√

Û
Ó ×Ò³Ø Ô Ò ÙÔÓÒ nº Ý Ö ×ÙÐØ× Û ³Ú × Ò ÓÒ ÅÄ ¸ lim V ar n p − p0

ˆ =

−1

−J∞ (p0 ). Ò Ò Ø ×
× ¸ −J∞

−1 (p0 ) = p0 1 − p0 º Áس×
ÓÑ ÓÖØ Ò ØÓ × Ø Ø Ø × ×



Ø × Ñ Ö ×ÙÐØ Û ÓØ Ò ×
Ø ÓÒ º½º







º¾º Ò ÖÝ Ö ×ÔÓÒ× ÑÓ Ð׺ ÜØ Ò Ò Ø ÖÒÓÙÐÐ ØÖ Ð ÑÓ Ð ØÓ Ò ÖÝ Ö ¹



×ÔÓÒ× ÑÓ Ð× Û Ø
ÓÒ Ø ÓÒ Ò Ú Ö Ð ×¸ ×Ù
ÑÓ Ð× Ö × Ò Ú Ö ØÝ Ó
ÓÒØ ÜØ׺



Ï ³Ú ÐÖ Ý × Ò ÐÓ Ø ÑÓ Ðº ÒÓØ Ö × ÑÔÐ Ü ÑÔÐ × ÔÖÓ Ø Ø Ö × ÓÐ ¹
ÖÓ×× Ò



ÑÓ Ðº ××ÙÑ Ø Ø





y ∗ = x′ β − ε

y = 1(y ∗ > 0)

ε ∼ N (0, 1)



À Ö ¸ y∗ × Ò ÙÒÓ × ÖÚ ´Ð Ø Òص
ÓÒØ ÒÙÓÙ× Ú Ö Ð ¸ Ò y × Ò ÖÝ Ú Ö Ð Ø Ø



Ò
Ø × Û Ø Ö y∗ × Ò Ø Ú ÓÖ ÔÓ× Ø Ú º Ì Ò P r(y = 1) = P r(ε 2).

• Í× Ò Ø ÒÓØ Ø ÓÒ ÒØÖÓ Ù
ÔÖ Ú ÓÙ×Ðݸ Ò m1t (θ) =

ÑÓÑ ÒØ
ÓÒ Ø ÓÒ

2 n n 2

θ/ (θ − 2) − yt Ò m1 (θ) = 1/n = θ/ (θ − 2) − 1/n t=1 yt . ×

t=1 m1t (θ)

Ô Ö Ñ Ø Ö Ú ÐÙ θ

0 , ÓØ E 0) = 0

ÓÖ ¸ Û Ò Ú ÐÙ Ø Ø Ø ØÖÙ θ 0 m1t (θ

Ò Eθ 0 m 1 (θ 0 ) = 0.

• ˆ

ÓÓ× Ò θ ØÓ × ˆ

Ø m1 (θ) ≡ 0 Ý Ð × ÅÅ ×Ø Ñ ØÓÖ





ˆ 2

´¿ µ θ=

1− Pn 2

i yi



Ì × ×Ø Ñ ØÓÖ × × ÓÒ ÓÒÐÝ ÓÒ ÑÓÑ ÒØ Ó Ø ×ØÖ ÙØ ÓÒ ¹ Ø Ù× × Ð ×× Ò ÓÖÑ Ø ÓÒ



Ø Ò Ø ÅÄ ×Ø Ñ ØÓÖ¸ ×Ó Ø × ÒØÙ Ø Ú ÐÝ
Ð Ö Ø Ø Ø ÅÅ ×Ø Ñ ØÓÖ Û ÐÐ Ò
ÒØ



Ö Ð Ø Ú ØÓ Ø ÅÄ ×Ø Ñ ØÓÖº



½

½º ÁÆÁÌÁÇÆ ½







• Ò ÐØ ÖÒ Ø Ú ÅÅ ×Ø Ñ ØÓÖ
ÓÙÐ × ÙÔÓÒ Ø ÓÙÖØ ÑÓÑ ÒØ Ó Ø



ع ×ØÖ ÙØ ÓÒº Ì ÓÙÖØ ÑÓÑ ÒØ Ó Ø¹ ×ØÖ ÙØ ÖºÚº ×

2

4 3 θ0

µ4 ≡ E(yt ) = ,

(θ 0 − 2) (θ 0 − 4)

ÔÖÓÚ θ 0 > 4. Ï
Ò Ò ×
ÓÒ ÑÓÑ ÒØ
ÓÒ Ø ÓÒ

n

3 (θ)2 1 4

m2 (θ) = − yt

(θ − 2) (θ − 4) n

t=1



• ×
ÓÒ ¸ Ö ÒØ ÅÅ ×Ø Ñ ØÓÖ
ÓÓ× × ˆ

θ ØÓ × Ø ˆ

m2 (θ) ≡ 0. Á ÝÓÙ ×ÓÐÚ Ø ×



ÝÓÙ³ÐÐ × Ø Ø Ø ×Ø Ñ Ø × Ö ÒØ ÖÓÑ Ø Ø Ò ÕÙ Ø ÓÒ ¿ º





Ì × ×Ø Ñ ØÓÖ ×Ò³Ø
ÒØ Ø Ö¸ × Ò
Ø Ù× × ÓÒÐÝ ÓÒ ÑÓÑ Òغ ÅÅ ×Ø Ñ ØÓÖ



ÛÓÙÐ Ù× Ø ØÛÓ ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ØÓ Ø Ö ØÓ ×Ø Ñ Ø Ø × Ò Ð Ô Ö Ñ Ø Öº Ì



ÅÅ ×Ø Ñ ØÓÖ × ÓÚ Ö ÒØ ¸ Û
Ð × ØÓ Ò ×Ø Ñ ØÓÖ Û
×
ÒØ Ö Ð Ø Ú ØÓ



Ø Ù×Ø ÒØ ÅÅ ×Ø Ñ ØÓÖ× ´ÑÓÖ ÓÒ
Ò
Ý Ð Ø Öµº





• × mn (θ) = (m1 (θ), m2 (θ))′ . Ì n ×Ù

ÓÖ ¸ × Ø ×
Ö ÔØ × Ù× ØÓ Ò
Ø Ø



× ÑÔÐ × Þ º ÆÓØ Ø

0

Ø m(θ ) = Op (n

−1/2 ), × Ò
Ø × Ò Ú Ö Ó
ÒØ Ö



Ö Ò ÓÑ Ú Ö Ð ×¸ Û Ö × m(θ) = Op (1), θ = θ ,

0 Û Ö ÜÔ
Ø Ø ÓÒ× Ö Ø Ò



Ù× Ò Ø ØÖÙ ×ØÖ ÙØ ÓÒ Û Ø Ô Ö Ñ Ø Ö θ . Ì

0 × × Ø ÙÒ Ñ ÒØ Ð Ö ×ÓÒ



Ø Ø ÅÅ ×
ÓÒ× ×Ø Òغ



• ÅÅ ×Ø Ñ ØÓÖ Ö ÕÙ Ö × Ò Ò Ñ ×ÙÖ Ó ×Ø Ò
¸ d (m(θ))º ÔÓÔÙÐ Ö




Ó
´ ÓÖ Ö ×ÓÒ× ÒÓØ ÐÓÛµ × ØÓ × Ø d (m(θ)) = m′ W n m, Ò Û Ñ Ò Ñ Þ



sn (θ) = m(θ)′ W n m(θ). Ï ××ÙÑ Wn
ÓÒÚ Ö × ØÓ Ò Ø ÔÓ× Ø Ú Ò Ø Ñ ¹



ØÖ Üº



• ÁÒ Ò Ö Ð¸ ××ÙÑ Û Ú g ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ ×Ó m(θ) × g ¹Ú
ØÓÖ Ò W

× g×g Ñ ØÖ Üº





ÓÖ Ø ÔÙÖÔÓ× × Ó Ø ×
ÓÙÖ× ¸ Ø ÓÐÐÓÛ Ò Ò Ø ÓÒ Ó Ø ÅÅ ×Ø Ñ ØÓÖ × ×Ù
ÒØÐÝ



Ò Ö Ð







Ò Ø ÓÒ ¾ º Ì ÅÅ ×Ø Ñ ØÓÖ Ó Ø K ¹ Ñ Ò× ÓÒ Ð Ô Ö Ñ Ø Ö Ú
ØÓÖ θ0,

ˆ

θ ≡ arg minΘ sn (θ) ≡ mn (θ)′ Wn mn (θ), 1

mn (θ) = n n

Û Ö t=1 mt (θ) × g¹Ú
ØÓÖ¸ g ≥ K,

Û Ø Eθ m(θ) = 0, Ò Wn
ÓÒÚ Ö × ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ Ò Ø g×g ×ÝÑÑ ØÖ
ÔÓ× Ø Ú



Ò Ø Ñ ØÖ Ü W∞ º







Ï Ø³× Ø Ö ×ÓÒ ÓÖ Ù× Ò ÅÅ ÅÄ × ×ÝÑÔØÓØ
ÐÐÝ
ÒØ

• ÊÓ Ù×ØÒ ×× ÅÅ × × ÙÔÓÒ Ð Ñ Ø × Ø Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ ÓÖ
ÓÒ¹



× ×Ø Ò
ݸ ÓÒÐÝ Ø × ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ò ØÓ
ÓÖÖ
ØÐÝ ×Ô
¸ Û Ö ×



ÅÄ Ò
Ø Ö ÕÙ Ö ×
ÓÖÖ
Ø ×Ô

Ø ÓÒ Ó Ú ÖÝ
ÓÒ
Ú Ð ÑÓÑ ÒØ
ÓÒ ¹



Ø ÓÒº ÅÅ × ÖÓ Ù×Ø Û Ø Ö ×Ô
Ø ØÓ ×ØÖ ÙØ ÓÒ Ð Ñ ××Ô

Ø ÓÒº Ì ÔÖ
ÓÖ



ÖÓ Ù×ØÒ ×× × ÐÓ×× Ó
Ò
Ý Û Ø Ö ×Ô
Ø ØÓ Ø ÅÄ ×Ø Ñ ØÓÖº Ã Ô Ò Ñ Ò



Ø Ø Ø ØÖÙ ×ØÖ ÙØ ÓÒ × ÒÓØ ÒÓÛÒ ×Ó Û ÖÖÓÒ ÓÙ×ÐÝ ×Ô
Ý ×ØÖ ÙØ ÓÒ



Ò ×Ø Ñ Ø Ý ÅÄ ¸ Ø ×Ø Ñ ØÓÖ Û ÐÐ Ò
ÓÒ× ×Ø ÒØ Ò Ò Ö Ð ´ÒÓØ ÐÛ Ý×µº



× Ð ØÝ Ò ×ÓÑ
× × Ø ÅÄ ×Ø Ñ ØÓÖ × ÒÓØ Ú Ð Ð ¸
Ù× Û Ö



ÒÓØ Ð ØÓ Ù
Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒº ÅÓÖ ÓÒ Ø × Ò Ø ×
Ø ÓÒ ÓÒ



× ÑÙÐ Ø ÓÒ¹ × ×Ø Ñ Ø ÓÒº Ì ÅÅ ×Ø Ñ ØÓÖ Ñ Ý ×Ø ÐÐ × Ð Ú Ò



Ø ÓÙ ÅÄ × ÒÓØ ÔÓ×× Ð º

¿º Ë ÅÈÌÇÌÁ ÆÇÊÅ ÄÁÌ ½







¾º ÓÒ× ×Ø Ò
Ý

Ï × ÑÔÐÝ ××ÙÑ Ø Ø Ø ××ÙÑÔØ ÓÒ× Ó Ì ÓÖ Ñ ½ ÓÐ ¸ ×Ó Ø ÅÅ ×Ø Ñ ØÓÖ



× ×ØÖÓÒ ÐÝ
ÓÒ× ×Ø Òغ Ì ÓÒÐÝ ××ÙÑÔØ ÓÒ Ø Ø Û ÖÖ ÒØ× Ø ÓÒ Ð
ÓÑÑ ÒØ× × Ø Ø



Ó ÒØ
Ø ÓÒº ÁÒ Ì ÓÖ Ñ ½ ¸ Ø Ø Ö ××ÙÑÔØ ÓÒ Ö × ´
µ Á ÒØ
Ø ÓÒ s∞ (·)

× ÙÒ ÕÙ ÐÓ Ð Ñ Ü ÑÙÑ º º¸ s∞

0

Ø θ , (θ 0 )

> s∞ (θ), ∀θ = θ0. Ì Ò Ø
× Ó



ÕÙ Ö Ø
Ó
Ø Ú ÙÒ
Ø ÓÒ sn (θ) = mn (θ)′ Wn mn (θ), Ö×Ø
ÓÒ× Ö mn (θ).

a.s.

• ÔÔÐÝ Ò ÙÒ ÓÖÑ Ð Û Ó Ð Ö ÒÙÑ Ö׸ Û Ø mn (θ) → m∞ (θ).

• Ë Ò
Eθ′ mn (θ 0 ) = 0 Ý ××ÙÑÔØ ÓÒ¸ m∞ (θ 0 ) = 0.

• 0 0 ′ 0

Ë Ò
s∞ (θ ) = m∞ (θ ) W∞ m∞ (θ ) = 0, Ò ÓÖ Ö ÓÖ ×ÝÑÔØÓØ
ÒØ
Ø ÓÒ¸



Û Ò Ø Ø m∞ (θ) = 0 ÓÖ θ = θ

0 , ÓÖ Ø Ð ×Ø ×ÓÑ Ð Ñ ÒØ Ó Ø Ú
ØÓÖº Ì ×

a.s.

Ò Ø ××ÙÑÔØ ÓÒ Ø Ø Wn → W∞ , Ò Ø ÔÓ× Ø Ú g × g Ò Ø g × g Ñ ØÖ Ü



Ù Ö ÒØ Ø Ø θ

0 × ×ÝÑÔØÓØ
ÐÐÝ ÒØ º



• ÆÓØ Ø Ø ×ÝÑÔØÓØ
ÒØ
Ø ÓÒ Ó × ÒÓØ ÖÙÐ ÓÙØ Ø ÔÓ×× Ð ØÝ Ó Ð
Ó



ÒØ
Ø ÓÒ ÓÖ Ú Ò Ø × Ø ¹ Ø Ö Ñ Ý ÑÙÐØ ÔÐ Ñ Ò Ñ Þ Ò ×ÓÐÙØ ÓÒ× Ò



Ò Ø × ÑÔР׺









¿º ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ

Ï Ð×Ó × ÑÔÐÝ ××ÙÑ Ø Ø Ø
ÓÒ Ø ÓÒ× Ó Ì ÓÖ Ñ ¾¾ ÓÐ ¸ ×Ó Û Û ÐÐ Ú ×¹



ÝÑÔØÓØ
ÒÓÖÑ Ð Øݺ ÀÓÛ Ú Ö¸ Û Ó Ò ØÓ Ò Ø ×ØÖÙ
ØÙÖ Ó Ø ×ÝÑÔØÓØ
Ú Ö Ò
¹




ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø ×Ø Ñ ØÓÖº ÖÓÑ Ì ÓÖ Ñ ¾¾¸ Û Ú

√ d

ˆ

n θ − θ 0 → N 0, J∞ (θ 0 )−1 I∞ (θ 0 )J∞ (θ 0 )−1

∂2 √ ∂

Û Ö J∞ (θ 0 ) ×Ø ÐÑÓ×Ø ×ÙÖ Ð Ñ ØÓ

∂θ∂θ ′ sn (θ) Ò I∞ (θ 0 ) = limn→∞ V ar n ∂θ sn (θ 0 ).

Ï Ò ØÓ Ø ÖÑ Ò Ø ÓÖÑ Ó Ø × Ñ ØÖ
× Ú Ò Ø Ó
Ø Ú ÙÒ
Ø ÓÒ sn (θ) =



mn (θ)′ W n mn (θ).

ÆÓÛ Ù× Ò Ø ÔÖÓ Ù
Ø ÖÙÐ ÖÓÑ Ø ÒØÖÓ Ù
Ø ÓÒ¸



∂ ∂ ′

sn (θ) = 2 m (θ) Wn mn (θ)

∂θ ∂θ n

Ò Ø K ×g Ñ ØÖ Ü

∂ ′

Dn (θ) ≡ m (θ) ,

∂θ n

×Ó



∂

´¿ µ s(θ) = 2D(θ)W m (θ) .

∂θ

´ÆÓØ Ø Ø sn (θ)¸ Dn (θ), Wn Ò mn (θ) ÐÐ Ô Ò ÓÒ Ø × ÑÔÐ × Þ n, ÙØ Ø × ÓÑ ØØ



ØÓ ÙÒ
ÐÙØØ Ö Ø ÒÓØ Ø ÓÒµº



ÌÓ Ø ×
ÓÒ Ö Ú Ø Ú ×¸ Ð Ø Di Ø i− Ø ÖÓÛ Ó D(θ). Í× Ò Ø ÔÖÓ Ù
Ø ÖÙÐ ¸



∂2 ∂

s(θ) = 2Di (θ)Wn m (θ)

∂θ ′ ∂θi ∂θ ′

∂ ′

= 2Di W D ′ + 2m′ W D

∂θ ′ i

Ï Ò Ú ÐÙ Ø Ò Ø Ø ÖÑ

∂

2m(θ)′ W D(θ)′

i

∂θ ′

º ÀÇÇËÁÆ ÌÀ Ï Á ÀÌÁÆ Å ÌÊÁ ½







∂

Ø θ0, ××ÙÑ Ø Ø

′

∂θ ′ D(θ)i × Ø × × ÄÄƸ ×Ó Ø Ø Ø
ÓÒÚ Ö × ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ Ò Ø



Ð Ñ Øº ÁÒ Ø ×
× ¸ Û Ú



∂ a.s.

2m(θ 0 )′ W D(θ 0 )′ → 0,

i

∂θ ′

a.s.

× Ò
m(θ 0 ) = op (1), W → W∞ º

ËØ
Ò Ø × Ö ×ÙÐØ× ÓÚ Ö Ø K ÖÓÛ× Ó D, Û Ø



∂2

lim ′

sn (θ 0 ) = J∞ (θ 0 ) = 2D∞ W∞ D∞ , a.s.,

∂θ∂θ ′

Û Ö Û Ò lim D = D∞ , a.s., Ò lim W = W∞ , º×º ´Û ××ÙÑ ÄÄÆ ÓÐ ×µº



Ï Ø Ö Ö

0

ØÓ I∞ (θ )¸ ÓÐÐÓÛ Ò ÕÙ Ø ÓÒ ¿ ¸ Ò ÒÓØ Ò Ø Ø Ø ×
ÓÖ × Ú Ñ Ò



Þ ÖÓ

0

Ø θ ´× Ò
Em(θ 0 ) = 0 Ý ××ÙÑÔØ ÓÒµ¸ Û Ú



√ ∂

I∞ (θ 0 ) = lim V ar n sn (θ 0 )

n→∞ ∂θ

′

= lim E4nDn Wn m(θ 0 )m(θ)′ Wn Dn

n→∞

√ √

= lim E4Dn Wn nm(θ 0 ) nm(θ)′ Wn Dn

′

n→∞



ÆÓÛ¸ Ú Ò Ø

0

Ø m(θ ) × Ò Ú Ö Ó
ÒØ Ö ´Ñ Ò¹Þ ÖÓµ ÕÙ ÒØ Ø ×¸ Ø × Ö ×ÓÒ Ð ØÓ

√

ÜÔ
Ø ÄÌ ØÓ ÔÔÐݸ Ø Ö ÑÙÐØ ÔÐ
Ø ÓÒ Ý nº ××ÙÑ Ò Ø ×¸



√ d

nm(θ 0 ) → N (0, Ω∞ ),



Û Ö



Ω∞ = lim E nm(θ 0 )m(θ 0 )′ .

n→∞

Í× Ò Ø ×¸ Ò Ø Ð ×Ø ÕÙ Ø ÓÒ¸ Û Ø



′

I∞ (θ 0 ) = 4D∞ W∞ Ω∞ W∞ D∞



Í× Ò Ø × Ö ×ÙÐØ׸ Ø ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Ø ÓÖ Ñ Ú × Ù×

√ d −1 −1

ˆ ′

n θ − θ 0 → N 0, D∞ W∞ D∞ ′ ′

D∞ W∞ Ω∞ W∞ D∞ D∞ W∞ D∞ ,



Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó Ø ÅÅ ×Ø Ñ ØÓÖ ÓÖ Ö ØÖ ÖÝ Û Ø Ò Ñ ØÖ Ü Wn .

ÆÓØ Ø Ø ÓÖ J∞ ØÓ ÔÓ× Ø Ú Ò Ø ¸ D∞ ÑÙ×Ø Ú ÙÐÐ ÖÓÛ Ö Ò ¸ ρ(D∞ ) = kº





º ÓÓ× Ò Ø Û Ø Ò Ñ ØÖ Ü

W × Û Ø Ò Ñ ØÖ Ü¸ Û
Ø ÖÑ Ò × Ø Ö Ð Ø Ú ÑÔÓÖØ Ò
Ó Ú ÓÐ Ø ÓÒ× Ó Ø



Ò Ú Ù Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ ÓÖ Ü ÑÔÐ ¸ Û Ö ÑÙ
ÑÓÖ ×ÙÖ Ó Ø Ö×Ø ÑÓÑ ÒØ




ÓÒ Ø ÓÒ¸ Û
× × ÙÔÓÒ Ø Ú Ö Ò
¸ Ø Ò Ó Ø ×
ÓÒ ¸ Û
× × ÙÔÓÒ Ø



ÓÙÖØ ÑÓÑ Òظ Û
ÓÙÐ × Ø



a 0

W =

0 b

Û Ø a ÑÙ
Ð Ö Ö Ø Ò b. ÁÒ Ø ×
× ¸ ÖÖÓÖ× Ò Ø ×
ÓÒ ÑÓÑ ÒØ
ÓÒ Ø ÓÒ Ú Ð ××



Û Ø Ò Ø Ó
Ø Ú ÙÒ
Ø ÓÒº



• Ë Ò
ÑÓÑ ÒØ× Ö ÒÓØ Ò Ô Ò Òظ Ò Ò Ö Ð¸ Û × ÓÙÐ ÜÔ
Ø Ø Ø Ø Ö




ÓÖÖ Ð Ø ÓÒ ØÛ Ò Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ ×Ó Ø Ñ Ý ÒÓØ × Ö Ð ØÓ × Ø Ø



Ó ¹ ÓÒ Ð Ð Ñ ÒØ× ØÓ ¼º W Ñ Ý Ö Ò ÓѸ Ø Ô Ò ÒØ Ñ ØÖ Üº



• Ï Ú ÐÖ Ý × Ò Ø Ø Ø
Ó
Ó W Û ÐÐ Ò Ù Ò
Ø ×ÝÑÔØÓØ
×ØÖ ¹



ÙØ ÓÒ Ó Ø ÅÅ ×Ø Ñ ØÓÖº Ë Ò
Ø ÅÅ ×Ø Ñ ØÓÖ × ÐÖ Ý Ò
ÒØ

º ÀÇÇËÁÆ ÌÀ Ï Á ÀÌÁÆ Å ÌÊÁ ½







ۺֺغ ÅÄ ¸ Û Ñ Ø Ð ØÓ
ÓÓ× Ø W Ñ ØÖ Ü ØÓ Ñ Ø ÅÅ ×Ø Ñ ØÓÖ




ÒØ ÛØ ÒØ
Ð ×× Ó ÅÅ ×Ø Ñ ØÓÖ× Ò Ý mn (θ)º

• ÌÓ ÔÖÓÚ Ð ØØÐ ÒØÙ Ø ÓÒ¸
ÓÒ× Ö Ø Ð Ò Ö ÑÓ Ð y = x′ β + ε, Û Ö ε∼

N (0, Ω). Ì Ø ×¸ Ú Ø ÖÓ×
×Ø
ØÝ Ò ÙØÓ
ÓÖÖ Ð Ø ÓÒº



• Ä ØP Ø ÓÐ × Ý
ØÓÖ Þ Ø ÓÒ Ó Ω

−1 , º ¸ P ′ P = Ω−1 .

• Ì ÒØ ÑÓ Ð P y = P Xβ+P ε × Ø × ×Ø
Ð ××
Ð ××ÙÑÔØ ÓÒ× Ó ÓÑÓ×
×¹



Ø
ØÝ Ò ÒÓÒ ÙØÓ
ÓÖÖ Ð Ø ÓÒ¸ × Ò
V (P ε) = P V = (ε)P ′ P ΩP ′ = P (P ′ P )−1 P ′ =

P P −1 (P ′ )−1 P ′ = In . ´ÆÓØ Û Ù× (AB)

−1

=B −1 A−1 ÓÖ A, B ÓØ ÒÓÒ× Ò Ù¹



Ð Öµº Ì × Ñ Ò× Ø Ø Ø ØÖ Ò× ÓÖÑ ÑÓ Ð ×
Òغ



• Ì ÇÄË ×Ø Ñ ØÓÖ Ó Ø ÑÓ Ð P y = P Xβ+P ε Ñ Ò Ñ Þ × Ø Ó
Ø Ú ÙÒ
Ø ÓÒ



(y − Xβ)′ Ω−1 (y − Xβ). ÁÒØ ÖÔÖ Ø Ò (y − Xβ) = ε(β) × ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ´ÒÓØ



Ø Ø Ø Ý Ó Ú Þ ÖÓ ÜÔ
Ø Ø ÓÒ Û Ò Ú ÐÙ Ø

0

Ø β µ¸ Ø ÓÔØ Ñ Ð Û Ø Ò



Ñ ØÖ Ü × × Ò ØÓ Ø ÒÚ Ö× Ó Ø
ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺



Ì × Ö ×ÙÐØ
ÖÖ × ÓÚ Ö ØÓ ÅÅ ×Ø Ñ Ø ÓÒº ´ÆÓØ Ø × ÔÖ × ÒØ Ø ÓÒ Ó ÄË ×



ÒÓØ ÅÅ ×Ø Ñ ØÓÖ¸
Ù× Ø ÒÙÑ Ö Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ö × ÕÙ Ð ØÓ



Ø × ÑÔÐ × Þ ¸ n. Ä Ø Ö Û ³ÐÐ × Ø Ø ÄË
Ò ÔÙØ ÒØÓ Ø ÅÅ Ö Ñ ÛÓÖ



Ò ÓÚ µº





Ì ÓÖ Ñ ¾ º Á ˆ

θ × ÅÅ ×Ø Ñ ØÓÖ Ø ØÑ Ò Ñ Þ × mn (θ)′ Wn mn (θ), Ø ×ÝÑÔØÓØ


ˆ a.s

Ú Ö Ò
Ó θ Û ÐÐ Ñ Ò Ñ Þ Ý
ÓÓ× Ò Wn ×Ó Ø Ø Wn → W∞ = Ω−1 , ∞ Û Ö Ω∞ =

limn→∞ E nm(θ 0 )m(θ 0 )′ .





ÈÖÓÓ ÓÖ W∞ = Ω−1 ,

∞ Ø ×ÝÑÔØÓØ
Ú Ö Ò




′ −1 ′ ′ −1

D∞ W∞ D∞ D∞ W∞ Ω∞ W∞ D∞ D∞ W∞ D∞

−1

× ÑÔÐ × ØÓ

′

D∞ Ω−1 D∞

∞ . ÆÓÛ¸ ÓÖ ÒÝ
Ó
×Ù
Ø W∞ = Ω−1 ,
ÓÒ×

Ø ∞ Ö Ø



Ö Ò
Ó Ø ÒÚ Ö× × Ó Ø Ú Ö Ò
× Û Ò W = Ω−1 Ú Ö×Ù× Û Ò W × ×ÓÑ Ö ØÖ ÖÝ



ÔÓ× Ø Ú Ò Ø Ñ ØÖ Ü



−1

′

D∞ Ω−1 D∞ − D∞ W∞ D∞

∞

′ ′

D∞ W∞ Ω∞ W∞ D∞ ′

D∞ W∞ D∞

−1/2 −1

= D∞ Ω∞ I − Ω1/2 W∞ D∞

∞

′ ′

D∞ W∞ Ω∞ W∞ D∞ D∞ W∞ Ω1/2 Ω∞ D∞

∞

−1/2 ′





×
Ò Ú Ö Ý ÑÙÐØ ÔÐ
Ø ÓÒº Ì Ø ÖÑ Ò Ö
Ø× × ÑÔÓØ Òظ Û
× Ð×Ó ×Ý



ØÓ

Ý ÑÙÐØ ÔÐ
Ø ÓÒ¸ Ò × Ø Ö ÓÖ ÔÓ× Ø Ú × Ñ Ò Ø º ÕÙ Ö Ø
ÓÖÑ Ò



ÔÓ× Ø Ú × Ñ Ò Ø Ñ ØÖ Ü × Ð×Ó ÔÓ× Ø Ú × Ñ Ò Ø º Ì Ö Ò
Ó Ø ÒÚ Ö× × Ó



Ø Ú Ö Ò
× × ÔÓ× Ø Ú × Ñ Ò Ø ¸ Û
ÑÔÐ × Ø Ø Ø Ö Ò
Ó Ø Ú Ö Ò
× ×



Ò Ø Ú × Ñ Ò Ø ¸ Û
ÔÖÓÚ × Ø Ø ÓÖ Ñº



Ì Ö ×ÙÐØ







√ d −1

´ ¼µ ˆ ′

n θ − θ 0 → N 0, D∞ Ω−1 D∞

∞



ÐÐÓÛ× Ù× ØÓ ØÖ Ø

−1

ˆ 0

′

D∞ Ω−1 D∞

∞

θ≈N θ , ,

n

Û Ö Ø ≈Ñ Ò× ÔÔÖÓÜ Ñ Ø ÐÝ ×ØÖ ÙØ ×º ÌÓ ÓÔ Ö Ø ÓÒ Ð Þ Ø × Û Ò ×Ø Ñ ¹



ØÓÖ× Ó D∞ Ò Ω∞ .

• D∞ ∂ ′ ˆ

Ì Ó Ú ÓÙ× ×Ø Ñ ØÓÖ Ó × × ÑÔÐÝ

∂θ mn θ , Û
×
ÓÒ× ×Ø ÒØ Ý Ø



ˆ

θ, ∂ ′


ÓÒ× ×Ø Ò
Ý Ó ××ÙÑ Ò Ø Ø

∂θ mn ×
ÓÒØ ÒÙÓÙ× Ò θ. ËØÓ
×Ø
ÕÙ
ÓÒØ ÒÙ ØÝ

º ËÌÁÅ ÌÁÇÆ Ç ÌÀ Î ÊÁ Æ ¹ ÇÎ ÊÁ Æ Å ÌÊÁ ½







∂ ′

Ö ×ÙÐØ×
Ò Ú Ù× Ø × Ö ×ÙÐØ Ú Ò

∂θ mn × ÒÓØ
ÓÒØ ÒÙÓÙ׺ Ï ÒÓÛ ØÙÖÒ ØÓ



×Ø Ñ Ø ÓÒ Ó Ω∞ .





º ×Ø Ñ Ø ÓÒ Ó Ø Ú Ö Ò
¹
ÓÚ Ö Ò
Ñ ØÖ Ü

´Ë À Ñ ÐØÓÒ º ½¼¸ ÔÔº ¾ ½¹¾ Ò ¾ ¼¹ µ∗ º

ÁÒ Ø
× Ø Ø Û Û × ØÓ Ù× Ø ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü¸ Û Ò Ò ×Ø Ñ Ø

√

Ó Ω∞ , Ø Ð Ñ Ø Ò Ú Ö Ò
¹
ÓÚ Ö Ò
Ñ ØÖ Ü Ó nmn (θ 0 )º Ï Ð ÓÒ
ÓÙÐ ×Ø Ñ Ø



Ω∞ Ô Ö Ñ ØÖ
ÐÐݸ Û Ò Ò Ö Ð Ú Ð ØØÐ Ò ÓÖÑ Ø ÓÒ ÙÔÓÒ Û
ØÓ × Ô Ö Ñ ØÖ




×Ô

Ø ÓÒº ÁÒ Ò Ö Ð¸ Û ÜÔ
Ø Ø Ø



• mt Û ÐÐ ÙØÓ
ÓÖÖ Ð Ø ´Γts = E(mt m′ ) = 0µº

t−s ÆÓØ Ø Ø Ø × ÙØÓ
ÓÚ Ö Ò




Û ÐÐ ÒÓØ Ô Ò ÓÒ t Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ö
ÓÚ Ö Ò
×Ø Ø ÓÒ Öݺ



•
ÓÒØ ÑÔÓÖ Ò ÓÙ×ÐÝ
ÓÖÖ Ð Ø ¸ × Ò
Ø Ò Ú Ù Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Û ÐÐ ÒÓØ Ò



Ò Ö Ð Ò Ô Ò ÒØ Ó ÓÒ ÒÓØ Ö ´E(mit mjt ) = 0µº

• Ò Ú Ö ÒØ Ú Ö

2

Ò
× ´E(mit ) = 2

σit µº

Ë Ò
Û Ò ØÓ ×Ø Ñ Ø ×Ó Ñ ÒÝ
ÓÑÔÓÒ ÒØ× Û Ö ØÓ Ø Ø Ô Ö Ñ ØÖ
ÔÔÖÓ
¸



Ø × ÙÒÐ ÐÝ Ø Ø Û ÛÓÙÐ ÖÖ Ú Ø
ÓÖÖ
Ø Ô Ö Ñ ØÖ
×Ô

Ø ÓÒº ÓÖ Ø × Ö ×ÓÒ¸



Ö × Ö
× Ó
Ù× ÓÒ
ÓÒ× ×Ø ÒØ ÒÓÒÔ Ö Ñ ØÖ
×Ø Ñ ØÓÖ× Ó Ω∞ .

À Ò
ÓÖØ Û ××ÙÑ Ø Ø mt ×
ÓÚ Ö Ò
×Ø Ø ÓÒ ÖÝ ´Ø
ÓÚ Ö Ò
ØÛ Ò mt Ò



mt−s Ó × ÒÓØ Ô Ò ÓÒ t). Ò Ø v − th ÙØÓ
ÓÚ Ö Ò
Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×



Γv = E(mt m′ ). ÆÓØ

t−s Ø

′ ) = Γ′ . Ê

Ø E(mt mt+s v
ÐÐ Ø Ømt Ò m Ö ÙÒ
Ø ÓÒ× Ó θ, ×Ó



ÓÖ ÒÓÛ ××ÙÑ Ø Ø Û Ú ×ÓÑ
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ

0

Ó θ , ×Ó Ø Ø ˆ ˆ

mt = mt (θ). ÆÓÛ



n n

Ωn = E nm(θ 0 )m(θ 0 )′ = E n 1/n mt 1/n m′

t

t=1 t=1

n n

= E 1/n mt m′

t

t=1 t=1

n−1 n−2 1

= Γ0 + Γ1 + Γ′ +

1 Γ2 + Γ′ · · · +

2 Γn−1 + Γ′

n−1

n n n

Ò ØÙÖ Ð¸
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Γv ×

n

Γv = 1/n mt m′ .

ˆ ˆ t−v

t=v+1



´ÝÓÙ Ñ Ø Ù× n−v ÒØ ÒÓÑ Ò ØÓÖ Ò×Ø µº ËÓ¸ Ò ØÙÖ Ð¸ ÙØ Ò
ÓÒ× ×Ø Òظ ×Ø Ñ ØÓÖ



Ó Ω∞ ÛÓÙÐ



ˆ n−1 n−2

Ω = Γ0 + Γ1 + Γ′ +

1 Γ2 + Γ′ + · · · + Γn−1 + Γ′

2 n−1

n n

n−1

n−v

= Γ0 + Γv + Γ′ .

v

v=1

n

Ì × ×Ø Ñ ØÓÖ × Ò
ÓÒ× ×Ø ÒØ Ò Ò Ö Ð¸ × Ò
Ø ÒÙÑ Ö Ó Ô Ö Ñ Ø Ö× ØÓ ×Ø Ñ Ø ×



ÑÓÖ Ø Ò Ø ÒÙÑ Ö Ó Ó × ÖÚ Ø ÓÒ׸ Ò Ò
Ö × × ÑÓÖ Ö Ô ÐÝ Ø Ò n¸ ×Ó Ò ÓÖÑ Ø ÓÒ



Ó × ÒÓØ Ù Ð ÙÔ × n → ∞.

ÇÒ Ø ÓØ Ö Ò ¸ ×ÙÔÔÓ× Ò Ø Ø Γv Ø Ò × ØÓ Þ ÖÓ ×Ù
ÒØÐÝ Ö Ô ÐÝ × v Ø Ò × ØÓ



∞, ÑÓ ×Ø Ñ ØÓÖ

q(n)

ˆ

Ω = Γ0 + Γv + Γ′ ,

v

v=1

º ËÌÁÅ ÌÁÇÆ ÍËÁÆ ÇÆ ÁÌÁÇÆ Ä ÅÇÅ ÆÌË ½ ¼





p

Û Ö q(n) → ∞ × n → ∞ Û ÐÐ
ÓÒ× ×Ø Òظ ÔÖÓÚ q(n) ÖÓÛ× ×Ù
ÒØÐÝ ×ÐÓÛÐݺ

n−v

Ì Ø ÖÑ

n
Ò ÖÓÔÔ
Ù× q(n) ÑÙ×Ø op (n). Ì × ÐÐÓÛ× Ò ÓÖÑ Ø ÓÒ ØÓ





ÙÑÙÐ Ø Ø Ö Ø Ø Ø × Ø × × ÄÄƺ × Ú ÒØ Ó Ø × ×Ø Ñ ØÓÖ × Ø Ø Ø Ñ Ý



ÒÓØ ÔÓ× Ø Ú Ò Ø º Ì ×
ÓÙÐ
Ù× ÓÒ ØÓ
Ð
ÙÐ Ø Ò Ø Ú χ2 ×Ø Ø ×Ø
¸ ÓÖ



Ü ÑÔÐ



• ÆÓØ Ø ÓÖÑÙÐ ÓÖ ˆ

Ω Ö ÕÙ Ö × Ò ×Ø Ñ Ø Ó m(θ 0 ), Û
Ò ØÙÖÒ Ö ÕÙ Ö × Ò

×Ø Ñ Ø Ó θ, Û
× × ÙÔÓÒ Ò ×Ø Ñ Ø Ó Ω! Ì ×ÓÐÙØ ÓÒ ØÓ Ø ×
Ö
ÙÐ Ö ØÝ

× ØÓ × Ø Ø Û Ø Ò Ñ ØÖ Ü W Ö ØÖ Ö ÐÝ ´ ÓÖ Ü ÑÔÐ ØÓ Ò ÒØ ØÝ Ñ ØÖ Üµ¸



Ó Ø Ò Ö×Ø
ÓÒ× ×Ø ÒØ ÙØ Ò
ÒØ ×Ø Ñ Ø

0

Ó θ , Ø Ò Ù× Ø × ×Ø Ñ Ø ØÓ



ÓÖÑ ˆ

Ω, Ø Ò Ö ¹ ×Ø Ñ Ø θ0. Ì ÔÖÓ
××
Ò Ø Ö Ø ÙÒØ Ð Ò Ø Ö ˆ

Ω ÒÓÖ ˆ

θ


Ò ÔÔÖ
ÐÝ ØÛ Ò Ø Ö Ø ÓÒ׺





º½º Æ Û Ý¹Ï ×Ø
ÓÚ Ö Ò
×Ø Ñ ØÓÖº Ì Æ Û Ý¹Ï ×Ø ×Ø Ñ ØÓÖ ´
ÓÒÓÑ Ø¹

Ö
¸ ½ µ ×ÓÐÚ × Ø ÔÖÓ Ð Ñ Ó ÔÓ×× Ð ÒÓÒÔÓ× Ø Ú Ò Ø Ò ×× Ó Ø ÓÚ ×Ø Ñ ØÓÖº



Ì Ö ×Ø Ñ ØÓÖ ×

q(n)

ˆ v

Ω = Γ0 + 1− Γv + Γ′ .

v

q+1

v=1

Ì × ×Ø Ñ ØÓÖ × Ôº º Ý
ÓÒ×ØÖÙ
Ø ÓÒº Ì
ÓÒ Ø ÓÒ ÓÖ
ÓÒ× ×Ø Ò
Ý × Ø Ø n−1/4 q → 0.

ÆÓØ Ø Ø Ø × × Ú ÖÝ ×ÐÓÛ Ö Ø Ó ÖÓÛØ ÓÖq. Ì × ×Ø Ñ ØÓÖ × ÒÓÒÔ Ö Ñ ØÖ
¹ Û ³Ú



ÔÐ
ÒÓ Ô Ö Ñ ØÖ
Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø ÓÖÑ Ó Ω. ÁØ × Ò Ü ÑÔÐ ÖÒ Ð

Ó ×Ø Ñ ØÓÖº



ÁÒ ÑÓÖ Ö
ÒØ Ô Ô Ö¸ Æ Û Ý Ò Ï ×Ø ´ ÊÚ Û Ó
ÓÒÓÑ
ËØ٠׸ ½ µ Ù×



ÔÖ ¹Û Ø Ò Ò ÓÖ ÔÔÐÝ Ò Ø ÖÒ Ð ×Ø Ñ ØÓÖº Ì × ØÓ Ø Î Ê ÑÓ Ð ØÓ Ø



ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ ÁØ × ÜÔ
Ø Ø Ø Ø Ö × Ù Ð× Ó Ø Î Ê ÑÓ Ð Û ÐÐ ÑÓÖ Ò ÖÐÝ



Û Ø ÒÓ × ¸ ×Ó Ø Ø Ø Æ Û Ý¹Ï ×Ø
ÓÚ Ö Ò
×Ø Ñ ØÓÖ Ñ Ø Ô Ö ÓÖÑ ØØ Ö Û Ø × ÓÖØ



Ð Ð Ò Ø ×ºº



Ì Î Ê ÑÓ Ð ×



ˆ ˆ ˆ

mt = Θ1 mt−1 + · · · + Θp mt−p + ut

Ì × × ×Ø Ñ Ø ¸ Ú Ò Ø Ö × Ù Ð× ut .

ˆ Ì Ò Ø Æ Û Ý¹Ï ×Ø
ÓÚ Ö Ò
×Ø Ñ ØÓÖ ×



ÔÔÐ ØÓ Ø × ÔÖ ¹Û Ø Ò Ö × Ù Ð׸ Ò Ø
ÓÚ Ö Ò
Ω × ×Ø Ñ Ø
ÓÑ Ò Ò Ø



ØØ Î Ê



ˆ ˆ ˆ

mt = Θ1 mt−1 + · · · + Θp mt−p

Û Ø Ø ÖÒ Ð ×Ø Ñ Ø Ó Ø
ÓÚ Ö Ò
Ó Ø ut . Ë Æ Û Ý¹Ï ×Ø ÓÖ Ø Ð׺



• Á Ú ÔÖÓ Ö Ñ Ø Ø Ó × Ø × ÝÓÙ³Ö ÒØ Ö ×Ø º







º ×Ø Ñ Ø ÓÒ Ù× Ò
ÓÒ Ø ÓÒ Ð ÑÓÑ ÒØ×

ËÓ Ö¸ Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ú Ò ÔÖ × ÒØ × ÙÒ
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ׺



ÇÒ
ÓÑÑÓÒ Û Ý Ó Ò Ò ÙÒ
ÓÒ Ø ÓÒ Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× × × ÙÔÓÒ
ÓÒ Ø ÓÒ Ð



ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺



ËÙÔÔÓ× Ø Ø Ö Ò ÓÑ Ú Ö Ð Y × Þ ÖÓ ÜÔ
Ø Ø ÓÒ
ÓÒ Ø ÓÒ Ð ÓÒ Ø Ö Ò ÓÑ



Ú Ö Ð X

EY |X Y = Y f (Y |X)dY = 0



Ì Ò Ø ÙÒ
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ Ó Ø ÔÖÓ Ù
Ø Ó Y Ò ÙÒ
Ø ÓÒ g(X) Ó X × Ð×Ó



Þ ÖÓº Ì ÙÒ
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ ×





EY g(X) = Y g(X)f (Y, X)dY dX.

X Y

º ËÌÁÅ ÌÁÇÆ ÍËÁÆ ÇÆ ÁÌÁÇÆ Ä ÅÇÅ ÆÌË ½ ½







Ì ×
Ò
ØÓÖ ÒØÓ
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ Ò Ò ÜÔ
Ø Ø ÓÒ ÛºÖºØº Ø Ñ Ö Ò Ð



Ò× ØÝ Ó X:

EY g(X) = Y g(X)f (Y |X)dY f (X)dX.

X Y

Ë Ò
g(X) Ó ×Ò³Ø Ô Ò ÓÒ Y Ø
Ò ÔÙÐÐ ÓÙØ Ó Ø ÒØ Ö Ð





EY g(X) = Y f (Y |X)dY g(X)f (X)dX.

X Y



ÙØ Ø Ø ÖÑ Ò Ô Ö ÒØ × × ÓÒ Ø Ö × × Þ ÖÓ Ý ××ÙÑÔØ ÓÒ¸ ×Ó





EY g(X) = 0



×
Ð Ñ º



Ì × × ÑÔÓÖØ ÒØ
ÓÒÓÑ ØÖ
ÐÐݸ × Ò
ÑÓ Ð× Ó Ø Ò ÑÔÐÝ Ö ×ØÖ
Ø ÓÒ× ÓÒ
ÓÒ Ø ÓÒ Ð



ÑÓÑ ÒØ׺ ËÙÔÔÓ× ÑÓ Ð Ø ÐÐ× Ù× Ø ØØ ÙÒ
Ø ÓÒ K(yt , xt ) × ÜÔ
Ø Ø ÓÒ¸
ÓÒ Ø ÓÒ Ð



ÓÒ Ø Ò ÓÖÑ Ø ÓÒ × Ø It , ÕÙ Ð ØÓ k(xt , θ),



Eθ K(yt , xt )|It = k(xt , θ).



• ÓÖ Ü ÑÔÐ ¸ Ò Ø
ÓÒØ ÜØ Ó Ø
Ð ××
Ð Ð Ò Ö ÑÓ Ð yt = x′ β + εt ,

t Û
Ò × Ø



K(yt , xt ) = yt ×Ó Ø Ø k(xt , θ) = x′ β º

t









Ï Ø Ø ×¸ Ø ÙÒ
Ø ÓÒ



ht (θ) = K(yt , xt ) − k(xt , θ)

×
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ ÕÙ Ð ØÓ Þ ÖÓ





Eθ ht (θ)|It = 0.



Ì × × ×
Ð Ö ÑÓÑ ÒØ
ÓÒ Ø ÓÒ¸ Û
×Ò³Ø ×Ù
ÒØ ØÓ ÒØ Ý K ¹ Ñ Ò× ÓÒ Ð



Ô Ö Ñ Ø Ö θ (K > 1)º ÀÓÛ Ú Ö¸ Ø ÓÚ Ö ×ÙÐØ ÐÐÓÛ× Ù× ØÓ ÓÖÑ Ú Ö ÓÙ× ÙÒ
ÓÒ Ø ÓÒ Ð



ÜÔ
Ø Ø ÓÒ×



mt (θ) = Z(wt )ht (θ)

Û Ö Z(wt )g × 1¹Ú
ØÓÖ Ú ÐÙ

× ÙÒ
Ø ÓÒ Ó wt Ò wt × × Ø Ó Ú Ö Ð × Ö ÛÒ ÖÓÑ



Ø Ò ÓÖÑ Ø ÓÒ × Ø It . Ì Z(wt ) Ö Ò×ØÖÙÑ ÒØ Ð Ú Ö Ð ×º Ï ÒÓÛ Ú g ÑÓÑ ÒØ




ÓÒ Ø ÓÒ׸ ×Ó × ÐÓÒ × g > K Ø Ò
×× ÖÝ
ÓÒ Ø ÓÒ ÓÖ ÒØ
Ø ÓÒ ÓР׺



ÇÒ
Ò ÓÖÑ Ø n × g Ñ ØÖ Ü

 

Z1 (w1 ) Z2 (w1 ) · · · Zg (w1 )

 

 Z1 (w2 ) Z2 (w2 ) Zg (w2 ) 

Zn =  º º º





º

 º º 

Z1 (wn ) Z2 (wn ) · · · Zg (wn )

 ′ 

Z1

 Z′ 

 

=  2 

 

′

Zn

º ËÌÁÅ ÌÁÇÆ ÍËÁÆ ÇÆ ÁÌÁÇÆ Ä ÅÇÅ ÆÌË ½ ¾







Ï Ø Ø × Û
Ò ÓÖÑ Ø g ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×

 

h1 (θ)

 

1 ′  h2 (θ) 

 º 

mn (θ) = Z

n n º

 º





hn (θ)

1 ′

= Z hn (θ)

n n

n

1

= Zt ht (θ)

n t=1

n

1

= mt (θ)

n

t=1



Û Ö Z(t,·) × Ø tth ÖÓÛ Ó Zn . Ì × Ø× Ø ÔÖ Ú ÓÙ× ØÖ ØÑ Òغ Ò ÒØ Ö ×Ø Ò ÕÙ ×Ø ÓÒ



Ø Ø Ö × × × ÓÛ ÓÒ × ÓÙÐ
ÓÓ× Ø Ò×ØÖÙÑ ÒØ Ð Ú Ö Ð × Z(wt ) ØÓ
Ú Ñ Ü ÑÙÑ




Ò
ݺ

∂ ′

ÆÓØ Ø Ø Û Ø Ø ×
Ó
Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ Û Ú Ø Ø Dn ≡ ∂θ m (θ) ´ K ×g

Ñ ØÖ Üµ ×



∂ 1 ′ ′

Dn (θ) = Zn hn (θ)

∂θ n

1 ∂ ′

= h (θ) Zn

n ∂θ n

Û
Û
Ò Ò ØÓ

1

Dn (θ) = Hn Zn .

n

Û Ö Hn × K ×n Ñ ØÖ Ü Ø Ø × Ø Ö Ú Ø Ú × Ó Ø Ò Ú Ù Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×



× Ø×
ÓÐÙÑÒ׺ Ä Û × ¸ Ò Ø Ú Ö¹
ÓÚº Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×





Ωn = E nmn (θ 0 )mn (θ 0 )′

1 ′

= E Z hn (θ 0 )hn (θ 0 )′ Zn

n n

′ 1

= Zn E hn (θ 0 )hn (θ 0 )′ Zn

n

′ Φn

≡ Zn Zn

n

Û Ö Û Ú Ò Φn = V arhn (θ 0 ). ÆÓØ Ø Ø Ø Ñ Ò× ÓÒ Ó Ø × Ñ ØÖ Ü × ÖÓÛ Ò



Û Ø Ø × ÑÔÐ × Þ ¸ ×Ó Ø × ÒÓØ
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð Û Ø ÓÙØ Ø ÓÒ Ð ××ÙÑÔØ ÓÒ׺



Ì ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Ø ÓÖ Ñ ÓÚ × Ý× Ø Ø Ø ÅÅ ×Ø Ñ ØÓÖ Ù× Ò Ø



ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü × ×ØÖ ÙØ ×

√ d

ˆ

n θ − θ 0 → N (0, V∞ )



Û Ö



−1 −1

Hn Zn ′

Zn Φn Zn ′

Zn Hn′

´ ½µ V∞ = lim .

n→∞ n n n



Í× Ò Ò Ö ÙÑ ÒØ × Ñ Ð Ö ØÓ Ø Ø Ù× ØÓ ÔÖÓÚ Ø Ø Ω−1

∞ × Ø
ÒØ Û Ø Ò Ñ ØÖ Ü¸



Û
Ò × ÓÛ Ø Ø ÔÙØØ Ò

′

Zn = Φ−1 Hn

n

º ËÈ Á Á ÌÁÇÆ Ì ËÌ ½ ¿








Ù× × Ø ÓÚ Ú Ö¹
ÓÚ Ñ ØÖ Ü ØÓ × ÑÔÐ Ý ØÓ



−1

′

Hn Φ−1 Hn

n

´ ¾µ V∞ = lim .

n→∞ n

Ò ÙÖØ ÖÑÓÖ ¸ Ø × Ñ ØÖ Ü × ×Ñ ÐÐ Ö Ø Ø Ø Ð Ñ Ø Ò Ú Ö¹
ÓÚ ÓÖ ÒÝ ÓØ Ö
Ó
Ó



Ò×ØÖÙÑ ÒØ Ð Ú Ö Ð ×º ´ÌÓ ÔÖÓÚ Ø ×¸ Ü Ñ Ò Ø Ö Ò
Ó Ø ÒÚ Ö× × Ó Ø Ú Ö¹
ÓÚ



Ñ ØÖ
× Û Ø Ø ÓÔØ Ñ Ð ÒØÖÙÑ ÒØ× Ò Û Ø ÒÓÒ¹ÓÔØ Ñ Ð Ò×ØÖÙÑ ÒØ׺ × ÓÚ ¸ ÝÓÙ




Ò × ÓÛ Ø Ø Ø Ö Ò
× ÔÓ× Ø Ú × Ñ ¹ Ò Ø µº



• ÆÓØ Ø Ø ÓØHn , Û
Û × ÓÙÐ ÛÖ Ø ÑÓÖ ÔÖÓÔ ÖÐÝ × Hn (θ 0 ), × Ò
Ø



Ô Ò × ÓÒ θ

0 , Ò Φ ÑÙ×Ø
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø ØÓ ÔÔÐÝ Ø ×º



• Í×Ù ÐÐݸ ×Ø Ñ Ø ÓÒ Ó Hn × ×ØÖ Ø ÓÖÛ Ö ¹ ÓÒ Ù×Ø Ù× ×



∂ ′ ˜

H= h θ ,

∂θ n

Û Ö ˜

θ × ×ÓÑ Ò Ø Ð
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ × ÓÒ ÒÓÒ¹ÓÔØ Ñ Ð Ò×ØÖÙÑ ÒØ׺



• ×Ø Ñ Ø ÓÒ Ó Φn Ñ Ý ÒÓØ ÔÓ×× Ð º ÁØ × Ò n×n Ñ ØÖ Ü¸ ×Ó Ø × ÑÓÖ



ÙÒ ÕÙ Ð Ñ ÒØ× Ø Ò n, Ø × ÑÔÐ × Þ ¸ ×Ó Û Ø ÓÙØ Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø Ô Ö Ñ Ø Ö×



Ø
Ò³Ø ×Ø Ñ Ø
ÓÒ× ×Ø ÒØÐݺ ×
ÐÐݸ ÝÓÙ Ò ØÓ ÔÖÓÚ Ô Ö Ñ ØÖ




×Ô

Ø ÓÒ Ó Ø
ÓÚ Ö Ò
× Ó Ø ht (θ) Ò ÓÖ Ö ØÓ Ð ØÓ Ù× ÓÔØ Ñ Ð



Ò×ØÖÙÑ ÒØ׺ ×ÓÐÙØ ÓÒ × ØÓ ÔÔÖÓÜ Ñ Ø Ø × Ñ ØÖ Ü Ô Ö Ñ ØÖ
ÐÐÝ ØÓ Ò



Ø Ò×ØÖÙÑ ÒØ׺ ÆÓØ Ø Ø Ø × ÑÔÐ Ú Ö¹
ÓÚ Ñ ØÖ Ü Ò ÕÙ Ø ÓÒ ¾ Û ÐÐ ÒÓØ



ÔÔÐÝ ÔÔÖÓÜ Ñ Ø ÐÝ ÓÔØ Ñ Ð Ò×ØÖÙÑ ÒØ× Ö Ù× ¹ Ø Û ÐÐ Ò
×× ÖÝ ØÓ Ù×

Z ′ Φn Z n

Ò ×Ø Ñ ØÓÖ × ÙÔÓÒ ÕÙ Ø ÓÒ ½¸ Û Ö Ø Ø ÖÑ n ÑÙ×Ø ×Ø Ñ Ø

n


ÓÒ× ×Ø ÒØÐÝ Ô Öظ ÓÖ Ü ÑÔÐ Ý Ø Æ Û Ý¹Ï ×Ø ÔÖÓ
ÙÖ º







º ×Ø Ñ Ø ÓÒ Ù× Ò ÝÒ Ñ
ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×

ÆÓØ Ø Ø ÝÒ Ñ
ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× × ÑÔÐ Ý Ø Ú Ö¹
ÓÚ Ñ ØÖ Ü¸ ÙØ Ö Ó Ø Ò Ö Ö



ØÓ ÓÖÑÙÐ Ø º Ì Û ÐÐ Ò ÙØÙÖ Ø ÓÒ׺ ÓÖ ÒÓÛ¸ Ø À Ò× Ò ÔÔÐ
Ø ÓÒ ÐÓÛ



× ÒÓÙ º







º ×Ô

Ø ÓÒ Ø ×Ø

Ì Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ× ÓÖ Ñ Ò Ñ Þ Ø ÓÒ¸ Ù× Ò Ø Ò ×Ø Ñ Ø Ó Ø ÓÔØ Ñ Ð Û Ø¹



Ò Ñ ØÖ Ü¸ Ö

∂ ˆ ∂ ′ ˆ ˆ ˆ

s(θ) = 2 m θ Ω−1 mn θ ≡ 0

∂θ ∂θ n

ÓÖ





ˆ ˆ ˆ

D(θ)Ω−1 mn (θ) ≡ 0

ÓÒ× Ö Ì ÝÐÓÖ ÜÔ Ò× ÓÒ Ó ˆ

m(θ)





´ ¿µ ˆ ′ ˆ

m(θ) = mn (θ 0 ) + Dn (θ 0 ) θ − θ 0 + op (1).



ÅÙÐØ ÔÐÝ Ò Ý ˆ ˆ

D(θ)Ω−1 Û Ó Ø Ò



ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ

D(θ)Ω−1 m(θ) = D(θ)Ω−1 mn (θ 0 ) + D(θ)Ω−1 D(θ 0 )′ θ − θ 0 + op (1)



Ì Ð × × Þ ÖÓ¸ Ò × Ò
ˆ

θØ Ò × ØÓ θ0 Ò ˆ

Ω Ø Ò × ØÓ Ω∞ ¸ Û
Ò ÛÖ Ø



a ˆ

D∞ Ω−1 mn (θ 0 ) = −D∞ Ω−1 D∞ θ − θ 0

∞ ∞

′

º ÇÌÀ Ê ËÌÁÅ ÌÇÊË ÁÆÌ ÊÈÊ Ì Ë ÅÅ ËÌÁÅ ÌÇÊË ½







ÓÖ





√ a √ −1

ˆ ′

n θ − θ 0 = − n D∞ Ω−1 D∞ D∞ Ω−1 mn (θ 0 )

∞ ∞



Ï Ø Ø ×¸ Ò Ø Ò ÒØÓ

ÓÙÒØ Ø ÓÖ Ò Ð ÜÔ Ò× ÓÒ ´ ÕÙ Ø ÓÒ ¿µ¸ Û Ø

√ a √ √ −1

ˆ

nm(θ) = nmn (θ 0 ) − ′ ′

nD∞ D∞ Ω−1 D∞ D∞ Ω−1 mn (θ 0 ).

∞ ∞



Ì × Ð ×Ø
Ò ÛÖ ØØ Ò ×

√ a √ −1

ˆ

nm(θ) = ′

n Ω1/2 − D∞ D∞ Ω−1 D∞

′ −1/2

D∞ Ω∞ Ω∞ mn (θ 0 )

−1/2

∞ ∞



ÇÖ

√ √ −1

−1/2 ˆ a

nΩ∞ m(θ) = −1/2 ′ ′

n Ig − Ω∞ D∞ D∞ Ω−1 D∞ −1/2

D∞ Ω∞ Ω∞ mn (θ 0 )

−1/2

∞



ÆÓÛ

√ d

−1/2

nΩ∞ mn (θ 0 ) → N (0, Ig )

Ò ÓÒ
Ò × ÐÝ Ú Ö Ý Ø Ø



−1

−1/2 ′ ′

P = Ig − Ω∞ D∞ D∞ Ω−1 D∞

∞

−1/2

D∞ Ω∞



× ÑÔÓØ ÒØ Ó Ö Ò g − K, ´Ö
ÐÐ Ø Ø Ø Ö Ò Ó Ò ÑÔÓØ ÒØ Ñ ØÖ Ü × ÕÙ Ð ØÓ Ø×



ØÖ
µ ×Ó



√ ′ √ −1/2

−1/2 ˆ

nΩ∞ m(θ) ˆ ˆ ˆ d

nΩ∞ m(θ) = nm(θ)′ Ω−1 m(θ) → χ2 (g − K)

∞



Ë Ò
ˆ

Ω
ÓÒÚ Ö × ØÓ Ω∞ , Û Ð×Ó Ú



ˆ ˆ ˆ d

nm(θ)′ Ω−1 m(θ) → χ2 (g − K)



ÓÖ

ˆ d

n · sn (θ) → χ2 (g − K)

×ÙÔÔÓ× Ò Ø ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
º Ì × ×
ÓÒÚ Ò ÒØ Ø ×Ø × Ò
Û Ù×Ø ÑÙÐØ ÔÐÝ



Ø ÓÔØ Ñ Þ Ú ÐÙ Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒ Ý n, Ò
ÓÑÔ Ö Û Ø χ2 (g − K)
Ö Ø
Ð



Ú ÐÙ º Ì Ø ×Ø × Ò Ö Ð Ø ×Ø Ó Û Ø Ö ÓÖ ÒÓØ Ø ÑÓÑ ÒØ× Ù× ØÓ ×Ø Ñ Ø Ö




ÓÖÖ
ØÐÝ ×Ô
º



• Ì × ÛÓÒ³Ø ÛÓÖ Û Ò Ø ×Ø Ñ ØÓÖ × Ù×Ø ÒØ º Ì ºÓº
º Ö



ˆ ˆ

Dθ sn (θ) = D Ω−1 m(θ) ≡ 0.



ÙØ Û Ø Ü
Ø ÒØ
Ø ÓÒ¸ ÓØ D Ò ˆ

Ω Ö ×ÕÙ Ö Ò ÒÚ ÖØ Ð ´ Ø Ð ×Ø



×ÝÑÔØÓØ
ÐÐݸ ××ÙÑ Ò Ø Ø ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ ÓÐ µ¸ ×Ó



ˆ

m(θ) ≡ 0.



ËÓ Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ö Þ ÖÓ Ö Ö Ð ×× Ó Ø Û Ø Ò Ñ ØÖ Ü Ù× º ×



×Ù
¸ Û Ñ Ø × Û ÐÐ Ù× Ò ÒØ ØÝ Ñ ØÖ Ü Ò × Ú ØÖÓÙ Ð º Ð×Ó ˆ

sn (θ) = 0¸

×Ó Ø Ø ×Ø Ö × ÓÛÒº



• ÒÓØ Ø × ×ÓÖØ Ó Ø ×Ø Ó Ø Ò ÓÚ Ö¹Ö
Ø× Ò Ò Ø × ÑÔР׺ ÇÒ × ÓÙÐ
ÙØ ÓÙ×



Ò Ö
Ø Ò ÑÓ Ð Û Ò Ø × Ø ×Ø Ö
Ø׺





º ÇØ Ö ×Ø Ñ ØÓÖ× ÒØ ÖÔÖ Ø × ÅÅ ×Ø Ñ ØÓÖ×

º½º ÇÄË Û Ø Ø ÖÓ×
×Ø
ØÝ Ó ÙÒ ÒÓÛÒ ÓÖѺ

Ü ÑÔÐ ¾ º Ï Ø ³× Ø ÖÓ×
×Ø

ÓÒ× ×Ø ÒØ Ú Ö
ÓÚ ×Ø Ñ ØÓÖ ÓÖ ÇÄ˺

º ÇÌÀ Ê ËÌÁÅ ÌÇÊË ÁÆÌ ÊÈÊ Ì Ë ÅÅ ËÌÁÅ ÌÇÊË ½







ËÙÔÔÓ× y = Xβ 0 + ε, Û Ö ε ∼ N (0, Σ), Σ ÓÒ Ð Ñ ØÖ Üº



• Ì ØÝÔ
Ð ÔÔÖÓ
× ØÓ Ô Ö Ñ Ø Ö Þ Σ = Σ(σ), Û Ö σ × Ò Ø Ñ Ò× ÓÒ Ð



Ô Ö Ñ Ø Ö Ú
ØÓÖ¸ Ò ØÓ ×Ø Ñ Ø β Ò σ Ó ÒØÐÝ ´ × Ð Ä˵º Ì × Û ÐÐ ÛÓÖ



Û ÐÐ Ø Ô Ö Ñ Ø Ö Þ Ø ÓÒ Ó Σ ×
ÓÖÖ
غ



• Á Û ³Ö ÒÓØ
ÓÒ ÒØ ÓÙØ Ô Ö Ñ Ø Ö Þ Ò Σ, Û
Ò ×Ø ÐÐ ×Ø Ñ Ø β
ÓÒ× ×Ø ÒØÐÝ



Ý ÇÄ˺ ÀÓÛ Ú Ö¸ Ø ØÝÔ
Ð
ÓÚ Ö Ò
×Ø Ñ ØÓÖ ˆ = (X′ X)−1 σ 2 Û ÐÐ

V (β) ˆ

× Ò Ò
ÓÒ× ×Ø Òظ Ò Û ÐÐ Ð ØÓ ÒÚ Ð Ò Ö Ò
׺



Ý ÜÓ Ò ØÝ Ó Ø Ö Ö ××ÓÖ× xt ´ K×1
ÓÐÙÑÒ Ú
ØÓÖµ Û Ú E(xt εt ) = 0,Û




×Ù ×Ø× Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ





mt (β) = xt yt − x′ β .

t



ÁÒ Ø ×
× ¸ Û Ú Ü
Ø ÒØ
Ø ÓÒ ´ K Ô Ö Ñ Ø Ö× Ò K ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×µº Ï



Ú



m(β) = 1/n mt = 1/n xt yt − 1/n xt x′ β.

t

t t t

ÓÖ ÒÝ
Ó
Ó W, m(β) Û ÐÐ ÒØ
ÐÐÝ Þ ÖÓ Ø Ø Ñ Ò ÑÙѸ Ù ØÓ Ü
Ø Ò¹



Ø
Ø ÓÒº Ì Ø ×¸ × Ò
Ø ÒÙÑ Ö Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× × ÒØ
Ð ØÓ Ø ÒÙÑ Ö Ó



Ô Ö Ñ Ø Ö׸ Ø Ó
ÑÔÐÝ Ø Ø ˆ

m(β) ≡ 0 Ö Ö Ð ×× Ó W. Ì Ö × ÒÓ Ò ØÓ Ù× Ø ÓÔ¹



Ø Ñ Ð Û Ø Ò Ñ ØÖ Ü Ò Ø ×
× ¸ Ò ÒØ ØÝ Ñ ØÖ Ü ÛÓÖ × Ù×Ø × Û ÐÐ ÓÖ Ø ÔÙÖÔÓ×



Ó ×Ø Ñ Ø ÓÒº Ì Ö ÓÖ

−1

ˆ

β= xt x′ xt yt = (X′ X)−1 X′ y,

t

t t



Û
× Ø Ù×Ù Ð ÇÄË ×Ø Ñ ØÓÖº

′ −1

Ì ÅÅ ×Ø Ñ ØÓÖ Ó Ø ×ÝÑÔØÓØ
Ú Ö
ÓÚ Ñ ØÖ Ü × D∞ Ω−1 D∞ .Ê
ÐÐ Ø Ø



D∞ ∂ ′ ˆ

× × ÑÔÐÝ

∂θ m θ . ÁÒ Ø ×
×





D∞ = −1/n xt x′ = −X′ X/n.

t

t



Ê
ÐÐ Ø Ø ÔÓ×× Ð ×Ø Ñ ØÓÖ Ó Ω ×



n−1

ˆ

Ω = Γ0 + Γv + Γ′ .

v

v=1



Ì × × Ò Ò Ö Ð Ò
ÓÒ× ×Ø Òظ ÙØ Ò Ø ÔÖ × ÒØ
× Ó ÒÓÒ ÙØÓ
ÓÖÖ Ð Ø ÓÒ¸ Ø × ÑÔÐ ×



ØÓ

ˆ

Ω = Γ0

Û
×
ÓÒ×Ø ÒØ ÒÙÑ Ö Ó Ð Ñ ÒØ× ØÓ ×Ø Ñ Ø ¸ ×Ó Ò ÓÖÑ Ø ÓÒ Û ÐÐ

ÙÑÙÐ Ø ¸ Ò




ÓÒ× ×Ø Ò
Ý Ó Ø Ò׺ ÁÒ Ø ÔÖ × ÒØ
×



n

Ω = Γ0 = 1/n mt m′

ˆ ˆt

t=1

n

2

= 1/n ˆ

xt x′ yt − x′ β

t t

t=1

n

= 1/n xt x′ ε2

t ˆt

t=1

ˆ

X′ EX

=

n

º ÇÌÀ Ê ËÌÁÅ ÌÇÊË ÁÆÌ ÊÈÊ Ì Ë ÅÅ ËÌÁÅ ÌÇÊË ½









Û Ö ˆ

E × Ò n×n ÓÒ Ð Ñ ØÖ Ü Û Ø ε2

ˆt Ò Ø ÔÓ× Ø ÓÒ t, tº

Ì Ö ÓÖ ¸ Ø ÅÅ Ú Ö
ÓÚº ×Ø Ñ ØÓÖ¸ Û
×
ÓÒ× ×Ø Òظ ×



−1 −1

√ X′ X ˆ

X′ EX X′ X

ˆ

V ˆ

n β−β = − −

n n n

−1 ˆ −1

X′ X X′ EX X′ X

=

n n n



Ì × × Ø Ú Ö
ÓÚ ×Ø Ñ ØÓÖ Ø Ø Ï Ø ´½ ¼µ ÖÖ Ú Ø Ò Ò Ò Ù ÒØ Ð ÖØ
Ð º Ì ×



×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø ÒØ ÙÒ Ö Ø ÖÓ×
×Ø
ØÝ Ó Ò ÙÒ ÒÓÛÒ ÓÖѺ Á Ø Ö × ÙØÓ
ÓÖ¹



Ö Ð Ø ÓÒ¸ Ø Æ Û Ý¹Ï ×Ø ×Ø Ñ ØÓÖ
Ò Ù× ØÓ ×Ø Ñ Ø Ω ¹ Ø Ö ×Ø × Ø × Ñ º





º¾º Ï Ø Ä ×Ø ËÕÙ Ö ×º ÓÒ× Ö Ø ÔÖ Ú ÓÙ× Ü ÑÔÐ Ó Ð Ò Ö ÑÓ Ð



Û Ø Ø ÖÓ×
×Ø
ØÝ Ó ÙÒ ÒÓÛÒ ÓÖÑ





y = Xβ 0 + ε

ε ∼ N (0, Σ)



Û Ö Σ × ÓÒ Ð Ñ ØÖ Üº



ÆÓÛ¸ ×ÙÔÔÓ× Ø Ø Ø ÓÖÑ Ó Σ × ÒÓÛÒ¸ ×Ó Ø Ø Σ(θ 0 ) ×
ÓÖÖ
Ø Ô Ö Ñ ØÖ




×Ô

Ø ÓÒ ´Û
Ñ Ý Ð×Ó Ô Ò ÙÔÓÒ X). ÁÒ Ø ×
× ¸ Ø ÄË ×Ø Ñ ØÓÖ ×



˜ −1

β = X′ Σ−1 X X′ Σ−1 y)



Ì × ×Ø Ñ ØÓÖ
Ò ÒØ ÖÔÖ Ø × Ø ×ÓÐÙØ ÓÒ ØÓ Ø K ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×





˜ xt yt xt x′ ˜

t

m(β) = 1/n − 1/n β ≡ 0.

t

σt (θ 0 ) t

σt (θ 0 )

Ì Ø ×¸ Ø ÄË ×Ø Ñ ØÓÖ Ò Ø ×
× × Ò Ó Ú ÓÙ× Ö ÔÖ × ÒØ Ø ÓÒ × ÅÅ ×Ø Ñ ¹



ØÓÖº Ï Ø ÙØÓ
ÓÖÖ Ð Ø ÓÒ¸ Ø Ö ÔÖ × ÒØ Ø ÓÒ Ü ×Ø× ÙØ Ø × Ð ØØÐ ÑÓÖ
ÓÑÔÐ
Ø º



Æ Ú ÖØ Ð ×׸ Ø × Ø × Ñ º Ì Ö Ö Û ÔÓ ÒØ×



• Ì ´ × Ð µ ÄË ×Ø Ñ ØÓÖ × ÒÓÛÒ ØÓ ×ÝÑÔØÓØ
ÐÐÝ
ÒØ Ò Ø
Ð ××



Ó Ð Ò Ö ×ÝÑÔØÓØ
ÐÐÝ ÙÒ × ×Ø Ñ ØÓÖ× ´ Ù××¹Å Ö ÓÚµº



• Ì × Ñ Ò× Ø Ø Ø × ÑÓÖ
ÒØ Ø Ò Ø ÓÚ Ü ÑÔÐ Ó ÇÄË Û Ø Ï Ø ³×



Ø ÖÓ×
×Ø

ÓÒ× ×Ø ÒØ
ÓÚ Ö Ò
¸ Û
× Ò ÐØ ÖÒ Ø Ú ÅÅ ×Ø Ñ ØÓÖº



• Ì × Ñ Ò× Ø Ø Ø
Ó
Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× × ÑÔÓÖØ ÒØ ØÓ
Ú




Ò
ݺ





º¿º ¾ËÄ˺ ÓÒ× Ö Ø Ð Ò Ö ÑÓ Ð



′

yt = zt β + εt ,



ÓÖ



y = Zβ + ε

Ù× Ò Ø Ù×Ù Ð
ÓÒ×ØÖÙ
Ø ÓÒ¸ Û Ö β × K ×1 Ò εt × º º º ËÙÔÔÓ× Ø Ø Ø × ÕÙ Ø ÓÒ



× ÓÒ Ó ×Ý×Ø Ñ Ó × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ׸ ×Ó Ø Ø zt
ÓÒØ Ò× ÓØ Ò Ó ÒÓÙ× Ò



ÜÓ ÒÓÙ× Ú Ö Ð ×º ËÙÔÔÓ× Ø Ø xt × Ø Ú
ØÓÖ Ó ÐÐ ÜÓ ÒÓÙ× Ò ÔÖ Ø ÖÑ Ò



Ú Ö Ð × Ø Ø Ö ÙÒ
ÓÖÖ Ð Ø Û Ø εt ´×ÙÔÔÓ× Ø Ø xt × r × 1).

• ˆ

Z × Ø

Ò Ú
ØÓÖ Ó ÔÖ
Ø ÓÒ× Ó Z Û Ò Ö Ö ×× ÙÔÓÒ X¸ º º¸ ˆ

Z =

X (X′ X)−1 X′ Z

ˆ −1

Z = X X′ X X′ Z

º ÇÌÀ Ê ËÌÁÅ ÌÇÊË ÁÆÌ ÊÈÊ Ì Ë ÅÅ ËÌÁÅ ÌÇÊË ½









• Ë Ò
ˆ

Z × Ð Ò Ö
ÓÑ Ò Ø ÓÒ Ó Ø ÜÓ ÒÓÙ× Ú Ö Ð × ˆ

x, zt ÑÙ×Ø ÙÒ¹




ÓÖÖ Ð Ø Û Ø ε. Ì × ×Ù ×Ø× Ø K¹ Ñ Ò× ÓÒ Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ mt (β) =

ˆ

zt (yt − z′ β)

t Ò ×Ó





m(β) = 1/n ˆt yt − z′ β .

z t

t



• Ë Ò
Û Ú K Ô Ö Ñ Ø Ö× Ò K ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ Ø ÅÅ ×Ø Ñ ØÓÖ Û ÐÐ



× Ø m ÒØ
ÐÐÝ ÕÙ Ð ØÓ Þ ÖÓ¸ Ö Ö Ð ×× Ó W, ×Ó Û Ú



−1

−1

ˆ

β= ˆt z′

z t ˆ

(ˆt yt ) = Z′ Z

z ˆ

Z′ y

t t



Ì × × Ø ×Ø Ò Ö ÓÖÑÙÐ ÓÖ ¾ËÄ˺ Ï Ù× Ø ÜÓ ÒÓÙ× Ú Ö Ð × Ò Ø Ö Ù




ÓÖÑ ÔÖ
Ø ÓÒ× Ó Ø Ò Ó ÒÓÙ× Ú Ö Ð × × Ò×ØÖÙÑ ÒØ׸ Ò ÔÔÐÝ ÁÎ ×Ø Ñ Ø ÓÒº Ë



À Ñ ÐØÓÒ ÔÔº ¾¼¹¾½ ÓÖ Ø Ú Ö
ÓÚ ÓÖÑÙÐ ´Û
× Ø ×Ø Ò Ö ÓÖÑÙÐ ÓÖ ¾ËÄ˵¸ Ò



ÓÖ ÓÛ ØÓ ÐÛ Ø εt Ø ÖÓ Ò ÓÙ× Ò Ô Ò ÒØ ´ ×
ÐÐݸ Ù×Ø Ù× Ø Æ Û Ý¹Ï ×Ø ÓÖ



×ÓÑ ÓØ Ö
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Ω, Ò ÔÔÐÝ Ø Ù×Ù Ð ÓÖÑÙÐ µº ÆÓØ Ø Ø εt Ô Ò ÒØ




Ù× × Ð Ò Ó ÒÓÙ× Ú Ö Ð × ØÓ ÐÓÓ× Ø Ö ×Ø ØÙ× × Ð Ø Ñ Ø Ò×ØÖÙÑ ÒØ׺





º º ÆÓÒÐ Ò Ö × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ׺ ÅÅ ÔÖÓÚ ×
ÓÒÚ Ò ÒØ Û Ý ØÓ ×¹



Ø Ñ Ø ÒÓÒÐ Ò Ö ×Ý×Ø Ñ× Ó × ÑÙÐØ Ò ÓÙ× ÕÙ Ø ÓÒ׺ Ï Ú ×Ý×Ø Ñ Ó ÕÙ Ø ÓÒ× Ó Ø



ÓÖÑ



0

y1t = f1 (zt , θ1 ) + ε1t

0

y2t = f2 (zt , θ2 ) + ε2t

º

º

º



0

yGt = fG (zt , θG ) + εGt ,



ÓÖ Ò
ÓÑÔ
Ø ÒÓØ Ø ÓÒ



yt = f (zt , θ 0 ) + εt ,

Û Ö f (·) × G ¹Ú
ØÓÖ Ú ÐÙ ÙÒ
Ø ÓÒ¸ Ò

0′ 0′

θ 0 = (θ1 , θ2 , · · · , θG )′ .

0′



Ï Ò ØÓ Ò Ò Ai × 1 Ú
ØÓÖ Ó Ò×ØÖÙÑ ÒØ× xit , ÓÖ
ÕÙ Ø ÓÒ¸ Ø Ø Ö ÙÒ¹




ÓÖÖ Ð Ø Û Ø εit . ÌÝÔ
Ð Ò×ØÖÙÑ ÒØ× ÛÓÙÐ ÐÓÛ ÓÖ Ö ÑÓÒÓÑ Ð× Ò Ø ÜÓ ÒÓÙ×

G

Ú Ö Ð × Ò zt , Û Ø Ø Ö Ð Ú Ð٠׺ Ì Ò Û
Ò Ò Ø i=1 Ai ×1 ÓÖØ Ó Ó¹



Ò Ð ØÝ
ÓÒ Ø ÓÒ×

 

(y1t − f1 (zt , θ1 )) x1t

 

 (y2t − f2 (zt , θ2 )) x2t 



mt (θ) =  .

º

º 

 º 

(yGt − fG (zt , θG )) xGt

• ÒÓØ ÓÒ ÒØ
Ø ÓÒ × Ð
Ø ÓÒ Ó Ò×ØÖÙÑ ÒØ× Ø Ø Ò×ÙÖ ÒØ
Ø ÓÒ ×



ÒÓÒ¹ØÖ Ú Ð ÔÖÓ Ð Ñº



• ÒÓØ ÓÒ
Ò
Ý Ø × Ð
Ø × Ø Ó Ò×ØÖÙÑ ÒØ× × ÑÔÓÖØ ÒØ
Ø× ÓÒ Ø




Ò
Ý Ó ×Ø Ñ Ø ÓÒº ÍÒ ÓÖØÙÒ Ø ÐÝ Ø Ö × Ð ØØÐ Ø ÓÖÝ Ó Ö Ò Ù Ò
ÓÒ



Û Ø × Ø ÓÔØ Ñ Ð × Øº ÅÓÖ ÓÒ Ø × Ð Ø Öº





º º Å Ü ÑÙÑ Ð Ð ÓÓ º ÁÒ Ø ÒØÖÓ Ù
Ø ÓÒ Û Ö Ù Ø Ø ÅÄ Û ÐÐ Ò Ò Ö Ð



ÑÓÖ
ÒØ Ø Ò ÅÅ × Ò
ÅÄ ÑÔÐ
ØÐÝ Ù× × ÐÐ Ó Ø ÑÓÑ ÒØ× Ó Ø ×ØÖ ÙØ ÓÒ



Û Ð ÅÅ Ù× × Ð Ñ Ø ÒÙÑ Ö Ó ÑÓÑ ÒØ׺
ØÙ ÐÐݸ ×ØÖ ÙØ ÓÒ Û Ø P Ô Ö Ñ Ø Ö×




Ò ÙÒ ÕÙ ÐÝ
Ö
Ø Ö Þ Ý P ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ ÀÓÛ Ú Ö¸ ×ÓÑ × Ø× Ó P ÑÓÑ ÒØ

º ÇÌÀ Ê ËÌÁÅ ÌÇÊË ÁÆÌ ÊÈÊ Ì Ë ÅÅ ËÌÁÅ ÌÇÊË ½








ÓÒ Ø ÓÒ× Ñ Ý
ÓÒØ Ò ÑÓÖ Ò ÓÖÑ Ø ÓÒ Ø Ò ÓØ Ö׸ × Ò
Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×
ÓÙÐ



ÐÝ
ÓÖÖ Ð Ø º ÅÅ ×Ø Ñ ØÓÖ Ø Ø
Ó× Ò ÓÔØ Ñ Ð × Ø Ó P ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×



ÛÓÙÐ ÙÐÐÝ
Òغ À Ö Û ³ÐÐ × Ø Ø Ø ÓÔØ Ñ Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ö × ÑÔÐÝ Ø



×
ÓÖ × Ó Ø ÅÄ ×Ø Ñ ØÓÖº



Ä Ø yt G ¹Ú
ØÓÖ Ó Ú Ö Ð ×¸ Ò Ð Ø Yt = (y1 , y2 , ..., yt )′ .

′ ′ ′ Ì Ò Ø Ø Ñ t, Yt−1

× Ò Ó × ÖÚ ´Ö Ö ØÓ Ø × Ø Ò ÓÖÑ Ø ÓÒ × Ø¸ × Ò
Û ××ÙÑ Ø
ÓÒ Ø ÓÒ Ò



Ú Ö Ð × Ú Ò × Ð
Ø ØÓ Ø Ú ÒØ Ó ÐÐ Ù× ÙÐ Ò ÓÖÑ Ø ÓÒµº Ì Ð Ð ÓÓ



ÙÒ
Ø ÓÒ × Ø Ó ÒØ Ò× ØÝ Ó Ø × ÑÔÐ





L(θ) = f (y1 , y2 , ..., yn , θ)



Û

Ò
ØÓÖ ×





L(θ) = f (yn |Yn−1 , θ) · f (Yn−1 , θ)



Ò Û
Ò Ö Ô Ø Ø × ØÓ Ø





L(θ) = f (yn |Yn−1 , θ) · f (yn−1 |Yn−2 , θ) · ... · f (y1 ).



Ì ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ × Ø Ö ÓÖ

n

ln L(θ) = ln f (yt |Yt−1 , θ).

t=1



Ò



mt (Yt , θ) ≡ Dθ ln f (yt |Yt−1 , θ)

× Ø ×
ÓÖ Ó Ø tth Ó × ÖÚ Ø ÓÒº ÁØ
Ò × ÓÛÒ Ø Ø¸ ÙÒ Ö Ø Ö ÙÐ Ö ØÝ
ÓÒ Ø ÓÒ׸



Ø Ø Ø ×
ÓÖ × Ú
ÓÒ Ø ÓÒ Ð Ñ Ò Þ ÖÓ Û Ò Ú ÐÙ Ø

0

Ø θ ´× ÒÓØ × ØÓ ÁÒØÖÓ Ù
Ø ÓÒ



ØÓ
ÓÒÓÑ ØÖ
×µ



E{mt (Yt , θ 0 )|Yt−1 } = 0

×Ó ÓÒ
ÓÙÐ ÒØ ÖÔÖ Ø Ø × × ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ØÓ Ù× ØÓ Ò Ù×ع ÒØ ÅÅ



×Ø Ñ ØÓÖ ´ Ø Ö Ö K Ô Ö Ñ Ø Ö× Ø Ö Ö K ×
ÓÖ ÕÙ Ø ÓÒ×µº Ì ÅÅ ×Ø Ñ ØÓÖ



× Ø×

n n

1/n ˆ

mt (Yt , θ) = 1/n ˆ

Dθ ln f (yt |Yt−1 , θ) = 0,

t=1 t=1

Û
Ö ÔÖ
× ÐÝ Ø Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ× Ó ÅÄ º Ì Ö ÓÖ ¸ ÅÄ
Ò ÒØ ÖÔÖ Ø



× ÅÅ ×Ø Ñ ØÓÖº Ì ÅÅ Ú Ö
ÓÚ ÓÖÑÙÐ × V∞ = ′ −1 º

D∞ Ω−1 D∞

ÓÒ× ×Ø ÒØ ×Ø Ñ Ø × Ó Ú Ö Ò

ÓÑÔÓÒ ÒØ× Ö × ÓÐÐÓÛ×









• D∞

n

∂ ˆ 2 ˆ

D∞ = ′ m(Yt , θ) = 1/n Dθ ln f (yt|Yt−1 , θ)

∂θ

t=1

• Ω

ÁØ × ÑÔÓÖØ ÒØ ØÓ ÒÓØ Ø Ø mt Ò mt−s , s > 0 Ö ÓØ
ÓÒ Ø ÓÒ ÐÐÝ Ò



ÙÒ
ÓÒ Ø ÓÒ ÐÐÝ ÙÒ
ÓÖÖ Ð Ø º ÓÒ Ø ÓÒ Ð ÙÒ
ÓÖÖ Ð Ø ÓÒ ÓÐÐÓÛ× ÖÓÑ Ø
Ø Ø Ø



mt−s × ÙÒ
Ø ÓÒ Ó Yt−s , Û
× ÒØ Ò ÓÖÑ Ø ÓÒ × Ø ØØ Ñ tº ÍÒ
ÓÒ Ø ÓÒ Ð



ÙÒ
ÓÖÖ Ð Ø ÓÒ ÓÐÐÓÛ× ÖÓÑ Ø
Ø Ø Ø
ÓÒ Ø ÓÒ Ð ÙÒ
ÓÖÖ Ð Ø ÓÒ ÓÐ Ö Ö Ð ××



Ó Ø Ö Ð Þ Ø ÓÒ Ó Yt−1 , ×Ó Ñ Ö Ò Ð Þ Ò Û Ø Ö ×Ô
Ø ØÓ Yt−1 ÔÖ × ÖÚ × ÙÒ
ÓÖ¹



Ö Ð Ø ÓÒ ´× Ø ×
Ø ÓÒ ÓÒ ÅÄ ×Ø Ñ Ø ÓÒ¸ ÓÚ µº Ì
Ø Ø Ø Ø ×
ÓÖ × Ö



× Ö ÐÐÝ ÙÒ
ÓÖÖ Ð Ø ÑÔÐ × Ø Ø Ω
Ò ×Ø Ñ Ø Ý Ø ×Ø Ñ ØÓÖ Ó Ø ¼

th

½¼º ÅÈÄ ÌÀ À ÍËÅ Æ Ì ËÌ ½







ÙØÓ
ÓÚ Ö Ò
Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×

n n

′

Ω = 1/n ˆ ˆ

mt (Yt , θ)mt (Yt , θ)′ = 1/n ˆ

Dθ ln f (yt |Yt−1 , θ) ˆ

Dθ ln f (yt |Yt−1 , θ)

t=1 t=1



Ê
ÐÐ ÖÓÑ ×ØÙ Ý Ó ÅÄ ×Ø Ñ Ø ÓÒ Ø Ø Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ÕÙ Ð ØÝ ´ ÕÙ Ø ÓÒ µ



×Ø Ø × Ø Ø



′

E Dθ ln f (yt |Yt−1 , θ 0 ) Dθ ln f (yt|Yt−1 , θ 0 ) 2

= −E Dθ ln f (yt |Yt−1 , θ 0 ) .



Ì × Ö ×ÙÐØ ÑÔÐ × Ø Û ÐÐ ÒÓÛÒ ´ Ò ÐÖ Ý × Òµ Ö ×ÙÐØ Ø Ø Û
Ò ×Ø Ñ Ø V∞ Ò



ÒÝ Ó Ø Ö Û Ý×



• Ì × Ò Û
Ú Ö× ÓÒ

 −1

 n 2 ˆ 



 t=1 Dθ ln f (yt |Yt−1 , θ) × 





 −1





′

V∞ = n n ˆ

Dθ ln f (yt |Yt−1 , θ) ˆ

Dθ ln f (yt |Yt−1 , θ) ×

 t=1 



 





 n 2 ˆ 



t=1 Dθ ln f (yt |Yt−1 , θ)



• ÓÖ Ø ÒÚ Ö× Ó Ø Ò Ø Ú Ó Ø À ×× Ò ´× Ò
Ø Ñ Ð Ò Ð ×Ø Ø ÖÑ
Ò
и



Ü
ÔØ ÓÖ Ñ ÒÙ× × Òµ

n −1



V∞ = −1/n 2 ˆ

Dθ ln f (yt |Yt−1 , θ) ,

t=1

• ÓÖ Ø ÒÚ Ö× Ó Ø ÓÙØ Ö ÔÖÓ Ù
Ø Ó Ø Ö ÒØ ´× Ò
Ø Ñ Ð Ò Ð ×Ø




Ò
Ð Ü
ÔØ ÓÖ Ñ ÒÙ× × Ò¸ Ò Ø Ö×Ø Ø ÖÑ
ÓÒÚ Ö × ØÓ Ñ ÒÙ× Ø ÒÚ Ö×



Ó Ø Ñ Ð Ø ÖѸ Û
× ×Ø ÐÐ Ò× Ø ÓÚ Ö ÐÐ ÒÚ Ö× µ

n −1

′

V∞ = 1/n ˆ

Dθ ln f (yt |Yt−1 , θ) ˆ

Dθ ln f (yt |Yt−1 , θ) .

t=1

Ì × × ÑÔÐ
Ø ÓÒ × ×Ô
Ð Ö ×ÙÐØ ÓÖ Ø ÅÄ ×Ø Ñ ØÓÖ ¹ Ø Ó ×Ò³Ø ÔÔÐÝ ØÓ ÅÅ



×Ø Ñ ØÓÖ× Ò Ò Ö Ðº



×ÝÑÔØÓØ
ÐÐݸ Ø ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
¸ ÐÐ Ó Ø × ÓÖÑ×
ÓÒÚ Ö ØÓ Ø



× Ñ Ð Ñ Øº ÁÒ ×Ñ ÐÐ × ÑÔÐ × Ø Ý Û ÐÐ Öº ÁÒ Ô ÖØ
ÙÐ Ö¸ Ø Ö × Ú Ò
Ø Ø Ø



ÓÙØ Ö ÔÖÓ Ù
Ø Ó Ø Ö ÒØ ÓÖÑÙÐ Ó × ÒÓØ Ô Ö ÓÖÑ Ú ÖÝ Û ÐÐ Ò ×Ñ ÐÐ × ÑÔÐ × ´×



Ú ×ÓÒ Ò Å
à ÒÒÓÒ¸ Ô º µº Ï Ø ³× ÁÒ ÓÖÑ Ø ÓÒ Ñ ØÖ Ü Ø ×Ø ´
ÓÒÓÑ ØÖ
¸



½ ¾µ × × ÙÔÓÒ
ÓÑÔ Ö Ò Ø ØÛÓ Û Ý× ØÓ ×Ø Ñ Ø Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ÓÙØ Ö



ÔÖÓ Ù
Ø Ó Ö ÒØ ÓÖ Ò Ø Ú Ó Ø À ×× Òº Á Ø Ý Ö Ý ØÓÓ ÑÙ
¸ Ø × × Ú Ò




Ó Ñ ××Ô

Ø ÓÒ Ó Ø ÑÓ Ðº





½¼º Ü ÑÔÐ Ì À Ù×Ñ Ò Ì ×Ø

Ì × ×
Ø ÓÒ ×
Ù×× × Ø À Ù×Ñ Ò Ø ×ظ Û
Û × ÓÖ Ò ÐÐÝ ÔÖ × ÒØ Ò À Ù×Ñ Ò¸



º º ´½ µ¸ ËÔ

Ø ÓÒ Ø ×Ø× Ò
ÓÒÓÑ ØÖ
׸
ÓÒÓÑ ØÖ
¸ ¸ ½¾ ½¹ ½º



ÓÒ× ÖØ × ÑÔÐ Ð Ò ÖÖ Ö ×× ÓÒ ÑÓ Ð yt = x′ β+ǫt . Ï

t ××ÙÑ Ø ØØ ÙÒ
Ø ÓÒ Ð



ÓÖÑ Ò Ø
Ó
Ó Ö Ö ××ÓÖ× ×
ÓÖÖ
ظ ÙØ Ø Ø Ø ×ÓÑ Ó Ø Ö Ö ××ÓÖ× Ñ Ý




ÓÖÖ Ð Ø Û Ø Ø ÖÖÓÖ Ø ÖѸ Û
× ÝÓÙ ÒÓÛ Û ÐÐ ÔÖÓ Ù
Ò
ÓÒ× ×Ø Ò
Ý Ó ˆ

β. ÓÖ



Ü ÑÔÐ ¸ Ø × Û ÐÐ ÔÖÓ Ð Ñ



• ×ÓÑ Ö Ö ××ÓÖ× Ö Ò Ó Ò ÓÙ×



• ×ÓÑ Ö Ö ××ÓÖ× Ö Ñ ×ÙÖ Û Ø ÖÖÓÖ



• Ð Ú ÐÙ × Ó Ø Ô Ò ÒØ Ú Ö Ð Ö Ù× × Ö Ö ××ÓÖ× Ò ǫt × ÙØÓ
ÓÖ¹



Ö Ð Ø º

½¼º ÅÈÄ ÌÀ À ÍËÅ Æ Ì ËÌ ½ ¼









ÙÖ ½º ÇÄË

OLS estimates

0.14

line 1





0.12







0.1







0.08







0.06







0.04







0.02







0

2.26 2.28 2.3 2.32 2.34 2.36 2.38 2.4









ÙÖ ¾º ÁÎ

IV estimates

0.16

line 1



0.14





0.12





0.1





0.08





0.06





0.04





0.02





0

1.85 1.9 1.95 2 2.05 2.1 2.15







ÌÓ ÐÐÙ×ØÖ Ø ¸ Ø Ç
Ø Ú ÔÖÓ Ö Ñ × ºÑ Ô Ö ÓÖÑ× ÅÓÒØ ÖÐÓ ÜÔ Ö Ñ ÒØ Û Ö



ÖÖÓÖ× Ö
ÓÖÖ Ð Ø Û Ø Ö Ö ××ÓÖ׸ Ò ×Ø Ñ Ø ÓÒ × Ý ÇÄË Ò Áκ Ì ØÖÙ Ú ÐÙ



Ó Ø ×ÐÓÔ
Ó
ÒØ Ù× ØÓ Ò Ö Ø Ø Ø × β = 2. ÙÖ ½ × ÓÛ× Ø Ø Ø ÇÄË



×Ø Ñ ØÓÖ × ÕÙ Ø × ¸ Û Ð ÙÖ ¾ × ÓÛ× Ø Ø Ø ÁÎ ×Ø Ñ ØÓÖ × ÓÒ Ú Ö ÑÙ





ÐÓ× Ö ØÓ Ø ØÖÙ Ú ÐÙ º Á ÝÓÙ ÔÐ Ý Û Ø Ø ÔÖÓ Ö Ñ¸ Ò
Ö × Ò Ø × ÑÔÐ × Þ ¸ ÝÓÙ
Ò



× Ú Ò
Ø Ø Ø ÇÄË ×Ø Ñ ØÓÖ × ×ÝÑÔØÓØ
ÐÐÝ × ¸ Û Ð Ø ÁÎ ×Ø Ñ ØÓÖ ×




ÓÒ× ×Ø Òغ



Ï Ú × Ò Ø Ø Ò
ÓÒ× ×Ø ÒØ Ò Ø
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ×
ÓÒÚ Ö ØÓ Ö ÒØ



ÔÖÓ Ð ØÝ Ð Ñ Ø׺ Ì × ×Ø Ò Ø À Ù×Ñ Ò Ø ×Ø ¹ Ô Ö Ó
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ×




ÓÒÚ Ö ØÓ Ø × Ñ ÔÖÓ Ð ØÝ Ð Ñ Ø¸ Û Ð ÓÒ ×
ÓÒ× ×Ø ÒØ Ò Ø ÓØ Ö × ÒÓØ Ø Ý

½¼º ÅÈÄ ÌÀ À ÍËÅ Æ Ì ËÌ ½ ½








ÓÒÚ Ö ØÓ Ö ÒØ Ð Ñ Ø׺ Á Û

ÔØ Ø Ø ÓÒ ×
ÓÒ× ×Ø ÒØ ´ º º¸ Ø ÁÎ ×Ø Ñ ØÓÖµ¸



ÙØ Û Ö ÓÙ Ø Ò Ø ÓØ Ö ×
ÓÒ× ×Ø ÒØ ´ º º¸ Ø ÇÄË ×Ø Ñ ØÓÖµ¸ Û Ñ Ø ØÖÝ ØÓ





Ø Ö Ò
ØÛ Ò Ø ×Ø Ñ ØÓÖ× × × Ò
ÒØÐÝ Ö ÒØ ÖÓÑ Þ ÖÓº







• Á Û ³Ö ÓÙ Ø Ò ÓÙØ Ø
ÓÒ× ×Ø Ò
Ý Ó ÇÄË ´ÓÖ ÉÅĸ Ø
ºµ¸ Û Ý × ÓÙÐ Û



ÒØ Ö ×Ø Ò Ø ×Ø Ò ¹ Û Ý ÒÓØ Ù×Ø Ù× Ø ÁÎ ×Ø Ñ ØÓÖ
Ù× Ø ÇÄË



×Ø Ñ ØÓÖ × ÑÓÖ
ÒØ Û Ò Ø Ö Ö ××ÓÖ× Ö ÜÓ ÒÓÙ× Ò Ø ÓØ Ö
Ð ×¹



×
Ð ××ÙÑÔØ ÓÒ× ´ Ò
ÐÙ Ò ÒÓÖÑ Ð ØÝ Ó Ø ÖÖÓÖ×µ ÓÐ º Ï Ò Û Ú ÑÓÖ




ÒØ ×Ø Ñ ØÓÖ Ø Ø Ö Ð × ÓÒ ×ØÖÓÒ Ö ××ÙÑÔØ ÓÒ× ´×Ù
× ÜÓ Ò Øݵ Ø Ò



Ø ÁÎ ×Ø Ñ ØÓÖ¸ Û Ñ Ø ÔÖ Ö ØÓ Ù× Ø¸ ÙÒÐ ×× Û Ú Ú Ò
Ø Ø Ø



××ÙÑÔØ ÓÒ× Ö Ð× º







ËÓ¸ Рس×
ÓÒ× Ö Ø
ÓÚ Ö Ò
ØÛ Ò Ø ÅÄ ×Ø Ñ ØÓÖ ˆ

θ ´ÓÖ ÒÝ ÓØ Ö ÙÐÐÝ
ÒØ



×Ø Ñ ØÓÖµ Ò ×ÓÑ ÓØ Ö Æ ×Ø Ñ ØÓÖ¸ × ˜

Ý θº ÆÓÛ¸ Ð Ø³× Ö
ÐÐ ×ÓÑ Ö ×ÙÐØ× ÖÓÑ ÅÄ º



ÕÙ Ø ÓÒ ½½ ×





√ a.s. √

ˆ

n θ − θ0 → −H∞ (θ0 )−1 ng(θ0 ).

ÕÙ Ø ÓÒ ½ ×



H∞ (θ) = −I∞ (θ).

ÓÑ Ò Ò Ø × ØÛÓ ÕÙ Ø ÓÒ׸ Û Ø

√ a.s. √

ˆ

n θ − θ0 → I∞ (θ0 )−1 ng(θ0 ).



Ð×Ó¸ ÕÙ Ø ÓÒ ½ Ø ÐÐ× Ù× Ø Ø Ø ×ÝÑÔØÓØ

ÓÚ Ö Ò
ØÛ Ò ÒÝ Æ ×Ø Ñ ØÓÖ



Ò Ø ÅÄ ×
ÓÖ Ú
ØÓÖ ×



√ ˜ ˜

n θ−θ V∞ (θ) IK

V∞ √ = .

ng(θ) IK I∞ (θ)

ÆÓÛ¸
ÓÒ× Ö

 √ 

√ ˜ ˜

IK 0K n θ−θ a.s.  n θ−θ

√ → √ .

0K I∞ (θ)−1 ng(θ) n ˆ

θ−θ



Ì ×ÝÑÔØÓØ

ÓÚ Ö Ò
Ó Ø × ×

 √ 

n ˜

θ−θ IK 0K ˜

V∞ (θ) IK IK 0K

V∞  √  =

n ˆ

θ−θ 0K I∞ (θ)−1 IK I∞ (θ) 0K I∞ (θ)−1



˜

V∞ (θ) I∞ (θ)−1

= ,

I∞ (θ)−1 I∞ (θ)−1

Û
¸ ÓÖ
Ð Ö ØÝ Ò Û Ø ÓÐÐÓÛ׸ Û Ñ Ø ÛÖ Ø ×

 √ 

n ˜

θ−θ ˜

V∞ (θ) I∞ (θ)−1

V∞  √ =

ˆ .

n ˆ

θ−θ I∞ (θ)−1 V∞ (θ)



ËÓ¸ Ø ×ÝÑÔØÓØ

ÓÚ Ö Ò
ØÛ Ò Ø ÅÄ Ò ÒÝ ÓØ Ö Æ ×Ø Ñ ØÓÖ × ÕÙ Ð ØÓ



Ø ÅÄ ×ÝÑÔØÓØ
Ú Ö Ò
´Ø ÒÚ Ö× Ó Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Üµº



ÆÓÛ¸ ×ÙÔÔÓ× Û Û Ø ØÓ Ø ×Ø Û Ø ÖØ Ø ØÛÓ ×Ø Ñ ØÓÖ× Ö Ò
Ø ÓØ
ÓÒÚ Ö Ò



ØÓ θ0 ¸ Ú Ö×Ù× Ø ÐØ ÖÒ Ø Ú ÝÔÓØ × × Ø Ø Ø ÅÄ ×Ø Ñ ØÓÖ × ÒÓØ Ò
Ø
ÓÒ× ×Ø ÒØ



´Ø
ÓÒ× ×Ø Ò
Ý Ó ˜

θ × Ñ ÒØ Ò ÝÔÓØ × ×µº ÍÒ Ö Ø ÒÙÐÐ ÝÔÓØ × × Ø Ø Ø Ý Ö ¸

½¼º ÅÈÄ ÌÀ À ÍËÅ Æ Ì ËÌ ½ ¾







Û Ú  √ 

˜

n θ − θ0 √

IK −IK  √ = ˜ ˆ

n θ−θ ,

ˆ

n θ − θ0

Û ÐÐ ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ×





√

˜ ˆ d ˜ ˆ

n θ − θ → N 0, V∞ (θ) − V∞ (θ) .

ËÓ¸

′ −1

˜ ˆ

n θ−θ ˜ ˆ

V∞ (θ) − V∞ (θ) ˜ ˆ d

θ − θ → χ2 (ρ),

Û Ö ρ × Ø Ö Ò Ó Ø Ö Ò
Ó Ø ×ÝÑÔØÓØ
Ú Ö Ò
׺ ×Ø Ø ×Ø
Ø Ø × Ø



× Ñ ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ ×



′ −1

˜ ˆ

θ−θ ˆ ˜ ˆ ˆ

V (θ) − V (θ) ˜ ˆ d

θ − θ → χ2 (ρ).



Ì × × Ø À Ù×Ñ Ò Ø ×Ø ×Ø Ø ×Ø
¸ Ò Ø× ÓÖ Ò Ð ÓÖѺ Ì Ö ×ÓÒ Ø Ø Ø × Ø ×Ø × ÔÓÛ Ö



ÙÒ Ö Ø ÐØ ÖÒ Ø Ú ÝÔÓØ × × × Ø Ø Ò Ø Ø
× Ø ÅÄ ×Ø Ñ ØÓÖ Û ÐÐ ÒÓØ




ÓÒ× ×Ø Òظ Ò Û ÐÐ
ÓÒÚ Ö θA ¸ × Ý¸

ØÓ Û θA = θ0 º Ì

Ö Ò Ø Ñ Ò Ó Ø ×ÝÑÔØÓØ


√ ˜ ˆ

×ØÖ ÙØ ÓÒ Ó Ú
ØÓÖ n θ − θ Û ÐÐ θ0 − θA ¸ ÒÓÒ¹Þ ÖÓ Ú
ØÓÖ¸ ×Ó Ø Ø ×Ø ×Ø Ø ×Ø




Û ÐÐ Ú ÒØÙ ÐÐÝ Ö
ظ Ö Ö Ð ×× Ó ÓÛ ×Ñ ÐÐ × Ò
Ò
Ð Ú Ð × Ù× º





• ÆÓØ Ø Ø ×Ø × × ÓÒ ×Ù ¹Ú
ØÓÖ Ó Ø ÒØ Ö Ô Ö Ñ Ø Ö Ú
ØÓÖ Ó Ø



ÅÄ ¸ Ø × ÔÓ×× Ð Ø Ø Ø Ò
ÓÒ× ×Ø Ò
Ý Ó Ø ÅÄ Û ÐÐ ÒÓØ × ÓÛ ÙÔ Ò Ø



ÔÓÖØ ÓÒ Ó Ø Ú
ØÓÖ Ø Ø × Ò Ù× º Á Ø × × Ø
× ¸ Ø Ø ×Ø Ñ Ý ÒÓØ



Ú ÔÓÛ Ö ØÓ Ø
Ø Ø Ò
ÓÒ× ×Ø Ò
ݺ Ì × Ñ Ý Ó

ÙÖ¸ ÓÖ Ü ÑÔÐ ¸ Û Ò Ø




ÓÒ× ×Ø ÒØ ÙØ Ò
ÒØ ×Ø Ñ ØÓÖ × ÒÓØ ÒØ ÓÖ ÐÐ Ø Ô Ö Ñ Ø Ö× Ó Ø



ÑÓ Ðº





ËÓÑ Ø Ò × ØÓ ÒÓØ





• Ì Ö Ò ¸ ρ¸ Ó Ø Ö Ò
Ó Ø ×ÝÑÔØÓØ
Ú Ö Ò
× × Ó Ø Ò Ð ×× Ø Ò Ø



Ñ Ò× ÓÒ Ó Ø Ñ ØÖ
׸ Ò Ø Ñ Ý
ÙÐØ ØÓ Ø ÖÑ Ò Û Ø Ø ØÖÙ Ö Ò



׺ Á Ø ØÖÙ Ö Ò × ÐÓÛ Ö Ø Ò Û Ø × Ø Ò ØÓ ØÖÙ ¸ Ø Ø ×Ø Û ÐÐ ×



Ò×Ø Ö
Ø ÓÒ Ó Ø ÒÙÐÐ ÝÔÓØ × ×º Ì
ÓÒØÖ ÖÝ ÓÐ × Û ÙÒ Ö ×Ø Ñ Ø



Ø Ö Ò º



• ×ÓÐÙØ ÓÒ ØÓ Ø × ÔÖÓ Ð Ñ × ØÓ Ù× Ö Ò ½ Ø ×ظ Ý
ÓÑÔ Ö Ò ÓÒÐÝ × Ò Ð




Ó
Òغ ÓÖ Ü ÑÔÐ ¸ Ú Ö Ð × ×Ù×Ô
Ø Ó ÔÓ×× ÐÝ Ò Ò Ó ÒÓÙ׸



Ø Ø Ú Ö Ð ³×
Ó
ÒØ× Ñ Ý
ÓÑÔ Ö º



• Ì × × ÑÔÐ ÓÖÑÙÐ ÓÒÐÝ ÓÐ × Û Ò Ø ×Ø Ñ ØÓÖ Ø Ø × Ò Ø ×Ø ÓÖ
ÓÒ× ×¹



Ø Ò
Ý × ÙÐÐÝ
ÒØ ÙÒ Ö Ø ÒÙÐÐ ÝÔÓØ × ×º Ì ×Ñ Ò× Ø Ø Ø ÑÙ×Ø ÅÄ



×Ø Ñ ØÓÖ ÓÖ ÙÐÐÝ
ÒØ ×Ø Ñ ØÓÖ Ø Ø × Ø × Ñ ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ



× Ø ÅÄ ×Ø Ñ ØÓÖº Ì × × ÕÙ Ø Ö ×ØÖ
Ø Ú × Ò
ÑÓ ÖÒ ×Ø Ñ ØÓÖ× ×Ù
×



ÅÅ Ò ÉÅÄ Ö ÒÓØ Ò Ò Ö Ð ÙÐÐÝ
Òغ





ÓÐÐÓÛ Ò ÙÔ ÓÒ Ø × Ð ×Ø ÔÓ Òظ Ð Ø³× Ø Ò Ó ØÛÓ ÒÓØ Ò
×× Ö ÐÝ
ÒØ ×Ø Ñ ØÓÖ׸ ˆ

θ1

Ò ˆ

θ2 ¸ Û Ö ÓÒ × ××ÙÑ ØÓ
ÓÒ× ×Ø Òظ ÙØ Ø ÓØ Ö Ñ Ý ÒÓØ º Ï ××ÙÑ



ÓÖ ÜÔÓ× Ø ÓÒ Ð × ÑÔÐ
ØÝ Ø Ø ÓØ ˆ

θ1 Ò ˆ

θ2 ÐÓÒ ØÓ Ø × Ñ Ô Ö Ñ Ø Ö ×Ô
¸ Ò



Ø Ø Ø Ý
Ò ÜÔÖ ×× × Ò Ö Ð Þ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ ×Ø Ñ ØÓÖ׺ Ì



×Ø Ñ ØÓÖ× Ö Ò ´×ÙÔÔÖ ×× Ò Ø Ô Ò Ò
ÙÔÓÒ Ø µ Ý



ˆ

θi = arg min mi (θi )′ Wi mi (θi )

θi ∈Θ

½½º ÈÈÄÁ ÌÁÇÆ ÆÇÆÄÁÆ Ê Ê ÌÁÇÆ Ä È Ì ÌÁÇÆË ½ ¿







Û Ö mi (θi ) × gi × 1 Ú
ØÓÖ Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ Ò Wi × gi × gi ÔÓ× Ø Ú Ò Ø



Û Ø Ò Ñ ØÖ Ü¸ i = 1, 2. ÓÒ× Ö Ø ÓÑÒ Ù× ÅÅ ×Ø Ñ ØÓÖ





ˆ ˆ W1 0(g1 ×g2 ) m1 (θ1 )

´ µ θ1 , θ2 = arg min m1 (θ1 )′ m2 (θ2 )′ .

Θ×Θ 0(g2 ×g1 ) W2 m2 (θ2 )

ËÙÔÔÓ× Ø Ø Ø ×ÝÑÔØÓØ

ÓÚ Ö Ò
Ó Ø ÓÑÒ Ù× ÑÓÑ ÒØ Ú
ØÓÖ ×



√ m1 (θ1 )

´ µ Σ = lim V ar n

n→∞ m2 (θ2 )



Σ1 Σ12

≡ .

· Σ2

Ì ×Ø Ò Ö À Ù×Ñ Ò Ø ×Ø × ÕÙ Ú Ð ÒØ ØÓ Ï Ð Ø ×Ø Ó Ø ÕÙ Ð ØÝ Ó θ1 Ò θ2 ´ÓÖ



×Ù Ú
ØÓÖ× Ó Ø ØÛÓµ ÔÔÐ ØÓ Ø ÓÑÒ Ù× ÅÅ ×Ø Ñ ØÓÖ¸ ÙØ Û Ø Ø
ÓÚ Ö Ò
Ó



Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ×Ø Ñ Ø ×



Σ1 0(g1 ×g2 )

Σ= .

0(g2 ×g1 ) Σ2

Ï Ð Ø × ×
Ð ÖÐÝ Ò Ò
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ò Ò Ö Ð¸ Ø ÓÑ ØØ Σ12 Ø ÖÑ
Ò
Ð× ÓÙØ



Ó Ø Ø ×Ø ×Ø Ø ×Ø
Û Ò ÓÒ Ó Ø ×Ø Ñ ØÓÖ× × ×ÝÑÔØÓØ
ÐÐÝ
Òظ × Û Ú × Ò



ÓÚ ¸ Ò Ø Ù× Ø Ò ÒÓØ ×Ø Ñ Ø º



Ì Ò Ö Ð ×ÓÐÙØ ÓÒ Û Ò Ò Ø Ö Ó Ø ×Ø Ñ ØÓÖ× ×
ÒØ ×
Ð Ö Ø ÒØ Ö Σ

Ñ ØÖ Ü ÑÙ×Ø ×Ø Ñ Ø
ÓÒ× ×Ø ÒØÐݸ × Ò
Ø Σ12 Ø ÖÑ Û ÐÐ ÒÓØ
Ò
Ð ÓÙغ Å Ø Ó ×



ÓÖ
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø Ò Ø ×ÝÑÔØÓØ

ÓÚ Ö Ò
Ó Ú
ØÓÖ Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×



Ö Û Ðй ÒÓÛÒ ¸ º º¸ Ø Æ Û Ý¹Ï ×Ø ×Ø Ñ ØÓÖ ×
Ù×× ÔÖ Ú ÓÙ×Ðݺ Ì À Ù×Ñ Ò Ø ×Ø



Ù× Ò ÔÖÓÔ Ö ×Ø Ñ ØÓÖ Ó Ø ÓÚ Ö ÐÐ
ÓÚ Ö Ò
Ñ ØÖ Ü Û ÐÐ ÒÓÛ Ú Ò ×ÝÑÔØÓØ
χ2

×ØÖ ÙØ ÓÒ Û Ò Ò Ø Ö ×Ø Ñ ØÓÖ ×
Òغ Ì × ×



ÀÓÛ Ú Ö¸ Ø Ø ×Ø ×Ù Ö× ÖÓÑ ÐÓ×× Ó ÔÓÛ Ö Ù ØÓ Ø
Ø Ø Ø Ø ÓÑÒ Ù× ÅÅ



×Ø Ñ ØÓÖ Ó ÕÙ Ø ÓÒ × Ò Ù× Ò Ò Ò
ÒØ Û Ø Ñ ØÖ Üº Ò Û Ø ×Ø
Ò



Ò Ý Ù× Ò Ò ÐØ ÖÒ Ø Ú ÓÑÒ Ù× ÅÅ ×Ø Ñ ØÓÖ





ˆ ˆ

−1 m1 (θ1 )

´ µ θ1 , θ2 = arg min m1 (θ1 )′ m2 (θ2 )′ Σ ,

Θ×Θ m2 (θ2 )



Û Ö Σ ×
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Ø ÓÚ Ö ÐÐ
ÓÚ Ö Ò
Ñ ØÖ Ü Σ Ó ÕÙ Ø ÓÒ º Ý



×Ø Ò Ö Ö ÙÑ ÒØ׸ Ø × × ÑÓÖ
ÒØ ×Ø Ñ ØÓÖ Ø Ò Ø Ø Ò Ý ÕÙ Ø ÓÒ ¸ ×Ó



Ø Ï Ð Ø ×Ø Ù× Ò Ø × ÐØ ÖÒ Ø Ú × ÑÓÖ ÔÓÛ Ö Ùк Ë ÑÝ ÖØ
Ð Ò ÔÔÐ
ÓÒÓÑ
׸

¾¼¼ ¸ ÓÖ ÑÓÖ Ø Ð׸ Ò
ÐÙ Ò × ÑÙÐ Ø ÓÒ Ö ×ÙÐØ׺ Ì Ç
Ø Ú ×
Ö ÔØ Ù×Ñ ÒºÑ
Ð
Ù¹



Ð Ø × Ø Ï Ð Ø ×Ø
ÓÖÖ ×ÔÓÒ Ò ØÓ Ø
ÒØ Ó ÒØ ÅÅ ×Ø Ñ ØÓÖ ´Ø À¾ Ø ×Ø Ò



ÑÝ Ô Ô Öµ¸ ÓÖ × ÑÔÐ Ð Ò Ö ÑÓ Ðº







½½º ÔÔÐ
Ø ÓÒ ÆÓÒÐ Ò Ö Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ×

Ê Ò × À Ò× Ò Ò Ë Ò Ð ØÓÒ¸ ½ ¾

∗ ; Ì Ù
Ò¸ ½



Ì ÓÙ ÅÅ ×Ø Ñ Ø ÓÒ × Ñ ÒÝ ÔÔÐ
Ø ÓÒ׸ ÔÔÐ
Ø ÓÒ ØÓ Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ×



ÑÓ Ð× × Ð Òظ × Ò
Ø ÓÖÝ Ö
ØÐÝ ×Ù ×Ø× Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ À Ò× Ò Ò Ë Ò¹



Ð ØÓÒ³× ½ ¾ Ô Ô Ö × Ð×Ó
Ð ××
ÛÓÖØ ×ØÙ Ý Ò Ò Ø× Ð º Ì ÓÙ Á ×ØÖÓÒ ÐÝ Ö
ÓÑÑ Ò



Ö Ò Ø Ô Ô Ö¸ Á³ÐÐ Ù× × ÑÔÐ ÑÓ Ð Û Ø × Ñ Ð Ö ÒÓØ Ø ÓÒ ØÓ À Ñ ÐØÓҳ׺



Ï ××ÙÑ Ö ÔÖ × ÒØ Ø Ú
ÓÒ×ÙÑ Ö Ñ Ü Ñ Þ × ÜÔ
Ø ×
ÓÙÒØ ÙØ Ð ØÝ ÓÚ Ö Ò



Ò Ò Ø ÓÖ ÞÓÒº ÍØ Ð ØÝ × Ø ÑÔÓÖ ÐÐÝ Ø Ú ¸ Ò Ø ÜÔ
Ø ÙØ Ð ØÝ ÝÔÓØ × × ÓР׺

½½º ÈÈÄÁ ÌÁÇÆ ÆÇÆÄÁÆ Ê Ê ÌÁÇÆ Ä È Ì ÌÁÇÆË ½







Ì ÙØÙÖ
ÓÒ×ÙÑÔØ ÓÒ ×ØÖ Ñ × Ø ×ØÓ
×Ø
× ÕÙ Ò
{ct }∞ .

t=0 Ì Ó
Ø Ú ÙÒ
Ø ÓÒ



Ø Ø Ñ t × Ø ×
ÓÙÒØ ÜÔ
Ø ÙØ Ð ØÝ

∞

´ µ β s E (u(ct+s )|It ) .

s=0



• Ì Ô Ö Ñ Ø Ö β × ØÛ Ò ¼ Ò ½¸ Ò Ö
Ø× ×
ÓÙÒØ Ò º



• It × Ø Ò ÓÖÑ Ø ÓÒ × Ø Ø Ø Ñ t, Ò Ò
ÐÙ × Ø ÐÐ Ö Ð Þ Ø ÓÒ× Ó Ö Ò ÓÑ



Ú Ö Ð × Ò Ü t Ò ÖÐ Öº



• Ì
Ó
Ú Ö Ð × ct ¹
ÙÖÖ ÒØ
ÓÒ×ÙÑÔØ ÓÒ¸ Û
×
ÓÒ×Ø Ò ØÓ Ð ××



Ø Ò ÓÖ ÕÙ Ð ØÓ
ÙÖÖ ÒØ Û ÐØ wt .

• ËÙÔÔÓ× Ø
ÓÒ×ÙÑ Ö
Ò ÒÚ ×Ø Ò Ö × Ý ×× Øº ÓÐÐ Ö ÒÚ ×Ø Ò Ø ×× Ø



Ý Ð × ÖÓ×× Ö ØÙÖÒ



pt+1 + dt+1

(1 + rt+1 ) =

pt

Û Ö pt ×Ø ÔÖ
Ò dt ×Ø Ú Ò ÒÔ Ö Ó t. Ì ÔÖ
Ó ct × ÒÓÖÑ Ð Þ



ØÓ 1.

• ÙÖÖ ÒØ Û ÐØ wt = (1 + rt )it−1 ¸ Û Ö it−1 × ÒÚ ×ØÑ ÒØ Ò Ô Ö Ó t − 1º ËÓ Ø



ÔÖÓ Ð Ñ × ØÓ ÐÐÓ
Ø
ÙÖÖ ÒØ Û ÐØ ØÛ Ò
ÙÖÖ ÒØ
ÓÒ×ÙÑÔØ ÓÒ Ò ÒÚ ×ØÑ ÒØ



ØÓ Ò Ò
ÙØÙÖ
ÓÒ×ÙÑÔØ ÓÒ wt = ct + it º

• ÙØÙÖ Ò Ø Ö Ø × Ó Ö ØÙÖÒ rt+s , s > 0 Ö ÒÓØ ÒÓÛÒ Ò Ô Ö Ó t Ø ×× Ø × Ö × Ýº





Ô ÖØ Ð × Ø Ó Ò
×× ÖÝ
ÓÒ Ø ÓÒ× ÓÖ ÙØ Ð ØÝ Ñ Ü Ñ Þ Ø ÓÒ Ú Ø ÓÖÑ





´ µ u′ (ct ) = βE (1 + rt+1 ) u′ (ct+1 )|It .



ÌÓ × Ø Ø Ø
ÓÒ Ø ÓÒ × Ò
×× Öݸ ×ÙÔÔÓ× Ø Ø Ø Ð × Ö ×º Ì Ò Ý Ö Ù
Ò




ÙÖÖ ÒØ
ÓÒ×ÙÑÔØ ÓÒ Ñ Ö Ò ÐÐÝ ÛÓÙÐ
Ù× ÕÙ Ø ÓÒ ØÓ ÖÓÔ

′

Ý u (ct ), × Ò
Ø Ö



× ÒÓ ×
ÓÙÒØ Ò Ó Ø
ÙÖÖ ÒØ Ô Ö Ó º Ø Ø × Ñ Ø Ñ ¸ Ø Ñ Ö Ò Ð Ö Ù
Ø ÓÒ Ò




ÓÒ×ÙÑÔØ ÓÒ Ò Ò
× ÒÚ ×ØÑ Òظ Û
× ÖÓ×× Ö ØÙÖÒ (1 + rt+1 ) , Û

ÓÙÐ Ò Ò





ÓÒ×ÙÑÔØ ÓÒ Ò Ô Ö Ó t + 1. Ì × Ò
Ö × Ò
ÓÒ×ÙÑÔØ ÓÒ ÛÓÙÐ
Ù× Ø Ó
Ø Ú



ÙÒ
Ø ÓÒ ØÓ Ò
Ö × Ý βE {(1 + rt+1 ) u′ (ct+1 )|It } . Ì Ö ÓÖ ¸ ÙÒÐ ×× Ø
ÓÒ Ø ÓÒ ÓР׸



Ø ÜÔ
Ø ×
ÓÙÒØ ÙØ Ð ØÝ ÙÒ
Ø ÓÒ × ÒÓØ Ñ Ü Ñ Þ º





• ÌÓ Ù× Ø × Û Ò ØÓ
ÓÓ× Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ó ÙØ Ð Øݺ
ÓÒ×Ø ÒØ Ö Ð Ø Ú



Ö × Ú Ö× ÓÒ ÓÖÑ ×

c1−γ − 1

t

u(ct ) =

1−γ

Û Ö γ × Ø
Ó
ÒØ Ó Ö Ð Ø Ú Ö × Ú Ö× ÓÒº Ï Ø Ø × ÓÖѸ





u′ (ct ) = c−γ

t



×Ó Ø Ó
Ö



c−γ = βE (1 + rt+1 ) c−γ |It

t t+1



Ï Ð Ø × ØÖÙ Ø Ø



E c−γ − β (1 + rt+1 ) c−γ

t t+1 |It = 0

×Ó Ø Ø Û
ÓÙÐ Ù× Ø × ØÓ Ò ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ Ø × ÙÒÐ ÐÝ Ø Ø ct × ×Ø Ø ÓÒ Öݸ



Ú Ò Ø ÓÙ Ø × Ò Ö Ð Ø ÖÑ׸ Ò ÓÙÖ Ø ÓÖÝ Ö ÕÙ Ö × ×Ø Ø ÓÒ Ö Øݺ ÌÓ ×ÓÐÚ Ø ×¸ Ú

−γ

Ø ÓÙ Ý ct

−γ

ct+1

E ½¹β (1 + rt+1 ) |It = 0

ct

½½º ÈÈÄÁ ÌÁÇÆ ÆÇÆÄÁÆ Ê Ê ÌÁÇÆ Ä È Ì ÌÁÇÆË ½







´ÒÓØ Ø Ø ct
Ò Ô ×× Ø ÓÙ Ø
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ × Ò
ct ×
Ó× Ò ×



ÓÒÐÝ ÙÔÓÒ Ò ÓÖÑ Ø ÓÒ Ú Ð Ð Ò Ø Ñ t).

ÆÓÛ

−γ

ct+1

½¹β (1 + rt+1 )

ct

× Ò ÐÓ ÓÙ× ØÓ ht (θ) Ò ÓÚ Ø³× ×
Ð Ö ÑÓÑ ÒØ
ÓÒ Ø ÓÒº ÌÓ Ø Ú
ØÓÖ Ó ÑÓ¹



Ñ ÒØ
ÓÒ Ø ÓÒ× Û Ò ×ÓÑ Ò×ØÖÙÑ ÒØ׺ ËÙÔÔÓ× Ø Ø zt × Ú
ØÓÖ Ó Ú Ö Ð × Ö ÛÒ



ÖÓÑ Ø Ò ÓÖÑ Ø ÓÒ × Ø It . Ï
Ò Ù× Ø Ò
×× ÖÝ
ÓÒ Ø ÓÒ× ØÓ ÓÖÑ Ø ÜÔÖ ×× ÓÒ×



ct+1 −γ

1 − β (1 + rt+1 ) ct zt ≡ mt (θ)



• θÖ ÔÖ × ÒØ× β Ò γ.

• Ì Ö ÓÖ ¸ Ø ÓÚ ÜÔÖ ×× ÓÒ Ñ Ý ÒØ ÖÔÖ Ø × ÑÓÑ ÒØ
ÓÒ Ø ÓÒ Û





Ò Ù× ÓÖ ÅÅ ×Ø Ñ Ø ÓÒ Ó Ø

0

Ô Ö Ñ Ø Ö× θ .









ÆÓØ Ø Ø ØØ Ñ t, mt−s × Ò Ó × ÖÚ ¸ Ò ×Ø Ö ÓÖ Ò Ð Ñ ÒØ Ó Ø Ò ÓÖÑ Ø ÓÒ



× Øº Ý Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ׸ Ø ÙØÓ
ÓÚ Ö Ò
× Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ÓØ Ö Ø Ò



Γ0 × ÓÙÐ Þ ÖÓº Ì ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü × Ø Ö ÓÖ Ø ÒÚ Ö× Ó Ø Ú Ö Ò




Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×







Ω∞ = lim E nm(θ 0 )m(θ 0 )′

Û

Ò
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø Ý

n

ˆ

Ω = 1/n ˆ ˆ

mt (θ)mt (θ)′

t=1



× ÓÖ ¸ Ø × ×Ø Ñ Ø Ô Ò × ÓÒ Ò Ò Ø Ð
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø Ó θ, Û

Ò



Ó Ø Ò Ý × ØØ Ò Ø Û Ø Ò Ñ ØÖ Ü W Ö ØÖ Ö ÐÝ ´ØÓ Ò ÒØ ØÝ Ñ ØÖ Ü¸ ÓÖ Ü ÑÔÐ µº



Ø Ö Ó Ø Ò Ò ˆ

θ, Û Ø Ò Ñ Ò Ñ Þ



ˆ

s(θ) = m(θ)′ Ω−1 m(θ).



Ì × ÔÖÓ
××
Ò Ø Ö Ø ¸ º º¸ Ù× Ø Ò Û ×Ø Ñ Ø ØÓ Ö ¹ ×Ø Ñ Ø Ω, Ù× Ø × ØÓ



×Ø Ñ Ø θ0, Ò Ö Ô Ø ÙÒØ Ð Ø ×Ø Ñ Ø × ÓÒ³Ø
Ò º









• ÁÒ ÔÖ Ò
ÔÐ ¸ Û
ÓÙÐ Ù× Ú ÖÝ Ð Ö ÒÙÑ Ö Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ò ×Ø Ñ Ø ÓÒ¸



× Ò
ÒÝ
ÙÖÖ ÒØ ÓÖ Ð Ú Ö Ð
ÓÙÐ Ù× Ò xt . Ë Ò
Ù× Ó ÑÓÖ ÑÓÑ ÒØ




ÓÒ Ø ÓÒ× Û ÐÐ Ð ØÓ ÑÓÖ ´ ×ÝÑÔØÓØ
ÐÐݵ
ÒØ ×Ø Ñ ØÓÖ¸ ÓÒ Ñ Ø



Ø ÑÔØ ØÓ Ù× Ñ ÒÝ Ò×ØÖÙÑ ÒØ Ð Ú Ö Ð ×º Ï Û ÐÐ Ó
ÓÑÔÙØ Ö Ð Ø Ø



Û ÐÐ × ÓÛ Ø Ø Ø × Ñ Ý ÒÓØ ÓÓ Û Ø Ò Ø × ÑÔР׺ Ì × ××Ù ×



Ò ×ØÙ Ù× Ò ÅÓÒØ ÖÐÓ× ´Ì Ù
Ò¸  ˸ ½ µº Ì Ö ×ÓÒ ÓÖ ÔÓÓÖ



Ô Ö ÓÖÑ Ò
Û Ò Ù× Ò Ñ ÒÝ Ò×ØÖÙÑ ÒØ× × Ø Ø Ø ×Ø Ñ Ø Ó Ω
ÓÑ × Ú ÖÝ



ÑÔÖ
× º



• ÑÔ Ö
Ð Ô Ô Ö× Ø Ø Ù× Ø × ÔÔÖÓ
Ó Ø Ò Ú × Ö ÓÙ× ÔÖÓ Ð Ñ× Ò Ó Ø Ò Ò



ÔÖ
× ×Ø Ñ Ø × Ó Ø Ô Ö Ñ Ø Ö׺ ÆÓØ Ø Ø Û Ö × Ò Ú ÖÝØ Ò ÓÒ



× Ò Ð Ô Ö Ð Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒº ÈÖÓ ÐÝ Ø × ºÓº
º × × ÑÔÐÝ ÒÓØ Ò ÓÖÑ Ø Ú



ÒÓÙ º Ë ÑÙÐ Ø ÓÒ¹ × ×Ø Ñ Ø ÓÒ Ñ Ø Ó × ´ ×
Ù×× ÐÓÛµ Ö ÓÒ Ñ Ò× Ó



ØÖÝ Ò ØÓ Ù× ÑÓÖ Ò ÓÖÑ Ø Ú ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ØÓ ×Ø Ñ Ø Ø × ×ÓÖØ Ó ÑÓ Ðº

½¾º ÅÈÁÊÁ Ä ÅÈÄ ÈÇÊÌ ÇÄÁÇ ÅÇ Ä ½







½¾º ÑÔ Ö
Ð Ü ÑÔÐ ÔÓÖØ ÓÐ Ó ÑÓ Ð

Ì Ç
Ø Ú ÔÖÓ Ö Ñ ÔÓÖØ ÓÐ ÓºÑ Ô Ö ÓÖÑ× ÅÅ ×Ø Ñ Ø ÓÒ Ó ÔÓÖØ ÓÐ Ó ÑÓ Ð¸ Ù× Ò



Ø Ø Ð Ø Ù
Òº Ø º Ì
ÓÐÙÑÒ× Ó Ø × Ø Ð Ö c, p, Ò d ÒØ Ø ÓÖ Öº Ì Ö



Ö Ó × ÖÚ Ø ÓÒ× ´×ÓÙÖ
Ì Ù
Ò¸ JBES, ½ µº × Ò×ØÖÙÑ ÒØ× Û Ù× Ð × Ó c Ò



r¸ × Û ÐÐ ×
ÓÒ×Ø Òغ ÓÖ × Ò Ð Ð Ø ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× Ö





ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ







¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Ü ÑÔÐ Ó ÅÅ ×Ø Ñ Ø ÓÒ Ó Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ× ÑÓ Ð



ÅÅ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¼º¼¼¼¼½

Ç × ÖÚ Ø ÓÒ×



Î ÐÙ Ô¹Ú ÐÙ

¾ Ø ×Ø ¼º¼¼½ ½º¼¼¼ ¼º ½



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ

Ø ¼º ½ ¼º¼¼ º¾ ½ ¼º¼¼¼

ÑÑ ¼º ¼º¿½ ½º ¿ ¼º¼

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶





ÓÖ ØÛÓ Ð × Ø ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× Ö





ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ







¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Ü ÑÔÐ Ó ÅÅ ×Ø Ñ Ø ÓÒ Ó Ö Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ× ÑÓ Ð



ÅÅ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¼º¼¿ ¾

Ç × ÖÚ Ø ÓÒ× ¿



Î ÐÙ Ô¹Ú ÐÙ

¾ Ø ×Ø ¿º ¾¿ ¿º¼¼¼ ¼º¿½



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ

Ø ¼º ¼º¼¾ ¿ º ¿ ¼º¼¼¼

ÑÑ ¹¾º¿ ½ ¼º¿½ ¹ º ¾ ¼º¼¼¼

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

½¾º ÅÈÁÊÁ Ä ÅÈÄ ÈÇÊÌ ÇÄÁÇ ÅÇ Ä ½









ÈÖ ØØÝ
Ð ÖÐݸ Ø Ö ×ÙÐØ× Ö × Ò× Ø Ú ØÓ Ø
Ó
Ó Ò×ØÖÙÑ ÒØ׺ Å Ý Ø Ö × ×ÓÑ



ÔÖÓ Ð Ñ Ö ÔÓÓÖ Ò×ØÖÙÑ ÒØ׸ ÓÖ ÔÓ×× ÐÝ
ÓÒ Ø ÓÒ Ð ÑÓÑ ÒØ Ø Ø × ÒÓØ Ú ÖÝ Ò ÓÖ¹



Ñ Ø Ú º ÅÓÑ ÒØ
ÓÒ Ø ÓÒ× ÓÖÑ ÖÓÑ ÙÐ Ö
ÓÒ Ø ÓÒ× ×ÓÑ Ø Ñ × Ó ÒÓØ ÒØ Ý Ø



Ô Ö Ñ Ø Ö Ó ÑÓ Ðº Ë À Ò× Ò¸ À ØÓÒ Ò ÖÖÓÒ¸ ´½ µ Â Ë Î½ ¸ Æ¿º Á× Ø Ø



ÔÖÓ Ð Ñ Ö ¸ ´Á Ú Ò³Ø

Ø
Ö ÙÐÐݵ

½¾º ÅÈÁÊÁ Ä ÅÈÄ ÈÇÊÌ ÇÄÁÇ ÅÇ Ä ½







Ü Ö
× ×

´½µ Ë ÓÛ ÓÛ ØÓ
×Ø Ø Ò Ö Ð Þ ÁÎ ×Ø Ñ ØÓÖ ÔÖ × ÒØ Ò ×
Ø ÓÒ × ÅÅ



×Ø Ñ ØÓÖº Á ÒØ Ý Û Ø Ö Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׸ mt (θ)¸ Û Ø × Ø ÓÖÑ



Ó Ø Ø Ñ ØÖ Ü Dn , Û Ø × Ø
ÒØ Û Ø Ñ ØÖ Ü¸ Ò × ÓÛ Ø Ø Ø




ÓÚ Ö Ò
Ñ ØÖ Ü ÓÖÑÙÐ Ú Ò ÔÖ Ú ÓÙ×ÐÝ
ÓÖÖ ×ÔÓÒ × ØÓ Ø ÅÅ
ÓÚ Ö Ò




Ñ ØÖ Ü ÓÖÑÙÐ º



´¾µ Í× Ò Ç
Ø Ú ¸ Ò Ö Ø Ø ÖÓÑ Ø ÐÓ Ø Ô º Ê
ÐÐ Ø ØE(yt |xt ) = p(xt , θ) =

[1 + exp(−xt ′θ)]−1 º ÓÒ× Ö Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ´ Ü
ØÐÝ ÒØ µ mt (θ) =



[yt − p(xt , θ)]xt

´ µ ×Ø Ñ Ø Ý ÅŸ Ù× Ò Ø × ÑÓÑ ÒØ׺



´ µ ×Ø Ñ Ø Ý ÅÄ º



´
µ Ì ØÛÓ ×Ø Ñ ØÓÖ× × ÓÙÐ
Ó Ò
º ÈÖÓÚ Ò ÐÝØ
ÐÐÝ Ø Ø Ø ×Ø Ñ ØÓÖ×




Ó
º



´¿µ Î Ö Ý Ø Ñ ×× Ò ×Ø Ô× Ò ØÓ × ÓÛ Ø Ø ˆ ˆ ˆ

n · m(θ)′ Ω−1 m(θ) × χ2 (g − K)

×ØÖ ÙØ ÓÒº Ì Ø ×¸ × ÓÛ Ø Ø Ø ÑÓÒ×Ø Ö Ñ ØÖ Ü × ÑÔÓØ ÒØ Ò × ØÖ




ÕÙ Ð ØÓ g − K.

´ µ ÓÖ Ø ÔÓÖØ ÓÐ Ó Ü ÑÔÐ ¸ ÜÔ Ö Ñ ÒØ Û Ø Ø ÔÖÓ Ö Ñ Ù× Ò Ð × Ó ¿ Ò



Ô Ö Ó × ØÓ Ò Ò×ØÖÙÑ ÒØ×



´ µ ÁØ Ö Ø Ø ×Ø Ñ Ø ÓÒ Ó θ = (β, γ) Ò Ω ØÓ
ÓÒÚ Ö Ò
º



´ µ ÓÑÑ ÒØ ÓÒ Ø Ö ×ÙÐØ׺ Ö Ø Ö ×ÙÐØ× × Ò× Ø Ú ØÓ Ø × Ø Ó Ò×ØÖÙÑ ÒØ×



Ù× ´ÄÓÓ Ø ˆ

Ω × Û ÐÐ × ˆ

θ. Ö Ø × ÓÓ Ò×ØÖÙÑ ÒØ× Ö Ø Ò×ØÖÙ¹



Ñ ÒØ× ÐÝ
ÓÖÖ Ð Ø Û Ø ÓÒ ÒÓØ Ö

À ÈÌ Ê ½







ÉÙ × ¹ÅÄ



ÉÙ × ¹ÅÄ × Ø ×Ø Ñ ØÓÖ ÓÒ Ó Ø Ò× Û Ò Ñ ××Ô
ÔÖÓ Ð ØÝ ÑÓ Ð × Ù×



ØÓ
Ð
ÙÐ Ø Ò ÅÄ ×Ø Ñ ØÓÖº



Ú Ò × ÑÔÐ n Ó Ö Ò ÓÑ Ú
ØÓÖ y Ò

Ó × Þ Ú
ØÓÖ Ó
ÓÒ Ø ÓÒ Ò Ú Ö Ð × x,

×ÙÔÔÓ× Ø Ó ÒØ Ò× ØÝ Ó Y = y1 . . . yn
ÓÒ Ø ÓÒ Ð ÓÒ X = x1 . . . xn ×



Ñ Ñ Ö Ó Ø Ô Ö Ñ ØÖ
Ñ ÐÝ pY (Y|X, ρ), ρ ∈ Ξ. Ì ØÖÙ Ó ÒØ Ò× ØÝ × ××Ó
Ø



Û Ø Ø Ú
ØÓÖ ρ

0 :



pY (Y|X, ρ0 ).





× ÐÓÒ × Ø Ñ Ö Ò Ð Ò× ØÝ Ó X Ó ×Ò³Ø Ô Ò ÓÒ ρ0 , Ø ×
ÓÒ Ø ÓÒ Ð Ò× ØÝ ÙÐÐÝ




Ö
Ø Ö Þ × Ø Ö Ò ÓÑ
Ö
Ø Ö ×Ø
× Ó × ÑÔÐ × º º¸ Ø ÙÐÐÝ ×
Ö × Ø ÔÖÓ Ð ×Ø ¹




ÐÐÝ ÑÔÓÖØ ÒØ ØÙÖ × Ó Ø º ºÔº Ì Ð Ð ÓÓ ÙÒ
Ø ÓÒ × Ù×Ø Ø × Ò× ØÝ Ú ÐÙ Ø



Ø ÓØ Ö Ú ÐÙ × ρ

L(Y|X, ρ) = pY (Y|X, ρ), ρ ∈ Ξ.

• Ä Ø Yt−1 = y1 . . . yt−1 ¸ Y0 = 0, Ò Ð Ø Xt = x1 . . . xt Ì



Ð Ð ÓÓ ÙÒ
Ø ÓÒ¸ Ø Ò ÒØÓ

ÓÙÒØ ÔÓ×× Ð Ô Ò Ò
Ó Ó × ÖÚ Ø ÓÒ׸
Ò



ÛÖ ØØ Ò ×

n

L(Y|X, ρ) = pt (yt |Yt−1 , Xt , ρ)

t=1

n

≡ pt (ρ)

t=1



• Ì Ú Ö ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×

n

1 1

sn (ρ) = ln L(Y|X, ρ) = ln pt (ρ)

n n

t=1



• ËÙÔÔÓ× Ø ØÛ Ó ÒÓØ Ú ÒÓÛÐ Ó Ø Ñ ÐÝ Ó Ò× Ø × pt (ρ). Å ×Ø ÒÐݸ



Û Ñ Ý ××ÙÑ Ø Ø Ø
ÓÒ Ø ÓÒ Ð Ò× ØÝ Ó yt × Ñ Ñ Ö Ó Ø Ñ ÐÝ



ft (yt |Yt−1 , Xt , θ), θ ∈ Θ, Û Ö Ø Ö × ÒÓ θ

0 ×Ù
Ø Ø ft (yt |Yt−1 , Xt , θ0 ) =

pt (yt |Yt−1 , Xt , ρ0 ), ∀t ´Ø × × Û Ø Û Ñ Ò Ý Ñ ××Ô
µº



• Ì × × ØÙÔ ÐÐÓÛ× ÓÖ Ø ÖÓ Ò ÓÙ× Ø Ñ × Ö × Ø ¸ Û Ø ÝÒ Ñ
Ñ ××Ô

¹



Ø ÓÒº





Ì ÉÅÄ ×Ø Ñ ØÓÖ × Ø Ö ÙÑ ÒØ Ø Ø Ñ Ü Ñ Þ × Ø Ñ ××Ô
Ú Ö ÐÓ Ð ¹



Ð ÓÓ ¸ Û
Û Ö Ö ØÓ × Ø ÕÙ × ¹ÐÓ Ð Ð ÓÓ ÙÒ
Ø ÓÒº Ì × Ó
Ø Ú ÙÒ
Ø ÓÒ



×

n

1

sn (θ) = ln ft (yt |Yt−1 , Xt , θ 0 )

n

t=1

n

1

≡ ln ft (θ)

n t=1

½

½º ÇÆËÁËÌ ÆÌ ËÌÁÅ ÌÁÇÆ Ç Î ÊÁ Æ ÇÅÈÇÆ ÆÌË ¾¼¼







Ò Ø ÉÅÄ ×

ˆ

θn = arg max sn (θ)

Θ

ËÄÄÆ ÓÖ Ô Ò ÒØ × ÕÙ Ò
× ÔÔÐ × ´Û ××ÙÑ µ¸ ×Ó Ø Ø



n

a.s. 1

sn (θ) → lim E ln ft (θ) ≡ s∞ (θ)

n→∞ n t=1



Ï ××ÙÑ Ø Ø Ø ×
Ò ×ØÖ Ò Ø Ò ØÓ ÙÒ ÓÖÑ
ÓÒÚ Ö Ò
¸ º×º¸ ÓÐÐÓÛ Ò Ø ÔÖ ¹



Ú ÓÙ× Ö ÙÑ ÒØ׺ Ì Ô× Ù Ó¹ØÖÙ Ú ÐÙ Ó θ × Ø Ú ÐÙ Ø Ø Ñ Ü Ñ Þ × s(θ)

¯



θ 0 = arg max s∞ (θ)

Θ



Ú Ò ××ÙÑÔØ ÓÒ× ×Ó Ø Ø Ø ÓÖ Ñ ½ × ÔÔÐ
Ð ¸ Û Ó Ø Ò



ˆ

lim θn = θ 0 , º×º

n→∞



• ÔÔÐÝ Ò Ø ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ Ø ÓÖ Ñ¸

√ d

ˆ

n θ − θ 0 → N 0, J∞ (θ 0 )−1 I∞ (θ 0 )J∞ (θ 0 )−1



Û Ö



J∞ (θ 0 ) = lim EDθ sn (θ 0 )

2

n→∞

Ò

√

I∞ (θ 0 ) = lim V ar nDθ sn (θ 0 ).

n→∞

• ÆÓØ Ø Ø ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ ÓÒÐÝ Ö ÕÙ Ö × Ø Ø Ø Ø ÓÒ Ð ××ÙÑÔØ ÓÒ×



Ö Ö Ò J Ò I ÓÐ Ò Ò ÓÖ ÓÓ Ó θ0 ÓÖ J Ò

0

Ø θ , ÓÖ I, ÒÓØ



Ø ÖÓÙ ÓÙØ Θ. ÁÒ Ø × × Ò× ¸ ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ × ÐÓ
Ð ÔÖÓÔ ÖØݺ









½º ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó Î Ö Ò
ÓÑÔÓÒ ÒØ×

ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó J∞ (θ 0 ) × ×ØÖ Ø ÓÖÛ Ö º ××ÙÑÔØ ÓÒ ´ µ Ó Ì ÓÖ Ñ ¾¾



ÑÔÐ × Ø Ø

n n

ˆ 1 2 ˆ a.s. 1

Jn (θn ) = Dθ ln ft (θn ) → lim E 2

Dθ ln ft (θ 0 ) = J∞ (θ 0 ).

n n→∞ n

t=1 t=1



Ì Ø ×¸ Ù×Ø
Ð
ÙÐ Ø Ø À ×× Ò Ù× Ò Ø ×Ø Ñ Ø ˆ

θn Ò ÔÐ
Ó θ0.

ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó I∞ (θ 0 ) × ÑÓÖ
ÙÐظ Ò Ñ Ý ÑÔÓ×× Ð º





• ÆÓØ Ø ÓÒ Ä Ø gt ≡ Dθ ft (θ 0 )



Ï Ò ØÓ ×Ø Ñ Ø

√

I∞ (θ 0 ) = lim V ar nDθ sn (θ 0 )

n→∞

n

√ 1

= lim V ar n Dθ ln ft (θ 0 )

n→∞ n t=1

n

1

= lim V ar gt

n→∞ n

t=1

n n ′

1

= lim E (gt − Egt ) (gt − Egt )

n→∞ n

t=1 t=1

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼½







Ì × × Ó Ò ØÓ
ÓÒØ Ò Ø ÖÑ

n

1

lim (Egt ) (Egt )′

n→∞ n

t=1



Û
Û ÐÐ ÒÓØ Ø Ò ØÓ Þ ÖÓ¸ Ò Ò Ö Ðº Ì × Ø ÖÑ × ÒÓØ
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð Ò Ò Ö Ð¸



× Ò
Ø Ö ÕÙ Ö ×
Ð
ÙÐ Ø Ò Ò ÜÔ
Ø Ø ÓÒ Ù× Ò Ø ØÖÙ Ò× ØÝ ÙÒ Ö Ø º ºÔº¸ Û




× ÙÒ ÒÓÛÒº



• Ì Ö Ö ÑÔÓÖØ ÒØ
× × Û Ö I∞ (θ 0 ) ×
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ð º ÓÖ Ü ÑÔÐ ¸



×ÙÔÔÓ× Ø Ø Ø Ø
ÓÑ ÖÓÑ Ö Ò ÓÑ × ÑÔÐ ´ º º¸ Ø Ý Ö µº Ì ×



ÛÓÙÐ Ø
× Û Ø
ÖÓ×× ×
Ø ÓÒ Ð Ø ¸ ÓÖ Ü ÑÔÐ º ´ÆÓØ ÙÒ Ö º º º



× ÑÔÐ Ò ¸ Ø Ó ÒØ ×ØÖ ÙØ ÓÒ Ó (yt , xt ) × ÒØ
к Ì × Ó × ÒÓØ ÑÔÐÝ Ø Ø



Ø
ÓÒ Ø ÓÒ Ð Ò× ØÝ f (yt |xt ) × ÒØ
еº



• Ï Ø Ö Ò ÓÑ × ÑÔÐ Ò ¸ Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ × × ÑÔÐÝ





s∞ (θ 0 ) = EX E0 ln f (y|x, θ 0 )



Û Ö E0 Ñ Ò× ÜÔ
Ø Ø ÓÒ Ó y|x Ò EX Ñ Ò× ÜÔ
Ø Ø ÓÒ Ö ×Ô
Ø ØÓ Ø



Ñ Ö Ò Ð Ò× ØÝ Ó x.

• Ý Ø Ö ÕÙ Ö Ñ ÒØ Ø Ø Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ Ñ Ü Ñ Þ Ø θ0 Û



Ú



Dθ EX E0 ln f (y|x, θ 0 ) = Dθ s∞ (θ 0 ) = 0

• Ì ÓÑ Ò Ø
ÓÒÚ Ö Ò
Ø ÓÖ Ñ ÐÐÓÛ× ×Û Ø
Ò Ø ÓÖ Ö Ó ÜÔ
Ø Ø ÓÒ



Ò Ö ÒØ Ø ÓÒ¸ ×Ó





Dθ EX E0 ln f (y|x, θ 0 ) = EX E0 Dθ ln f (y|x, θ 0 ) = 0



Ì ÄÌ ÑÔÐ × Ø Ø

n

1 d

√ Dθ ln f (y|x, θ 0 ) → N (0, I∞ (θ 0 )).

n t=1



Ì Ø ×¸ Ø³× ÒÓØ Ò
×× ÖÝ ØÓ ×Ù ØÖ
Ø Ø Ò Ú Ù Ð Ñ Ò׸ × Ò
Ø Ý Ö Þ ÖÓº



Ú Ò Ø ×¸ Ò Ù ØÓ Ò Ô Ò ÒØ Ó × ÖÚ Ø ÓÒ׸
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ ×

n

1 ˆ ˆ

I= Dθ ln ft (θ)Dθ′ ln ft (θ)

n

t=1



Ì × × Ò ÑÔÓÖØ ÒØ
× Û Ö
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó Ø
ÓÚ Ö Ò
Ñ ØÖ Ü × ÔÓ×× Ð º



ÇØ Ö
× × Ü ×ظ Ú Ò ÓÖ ÝÒ Ñ
ÐÐÝ Ñ ××Ô
Ø Ñ × Ö × ÑÓ Ð׺





¾º Ü ÑÔÐ Ø Å ÈË Ø

ÌÓ

Ø ÔÐ Ù× Ð ØÝ Ó Ø ÈÓ ××ÓÒ ÑÓ Ð ÓÖ Ø Å ÈË Ø ¸ Û
Ò
ÓÑÔ Ö Ø



× ÑÔÐ ÙÒ
ÓÒ Ø ÓÒ Ð Ú Ö Ò
Û Ø Ø ×Ø Ñ Ø ÙÒ
ÓÒ Ø ÓÒ Ð Ú Ö Ò


ÓÖ Ò ØÓ Ø

Pn ˆ

t=1 λt

ÈÓ ××ÓÒ ÑÓ Ð V (y) = n º Í× Ò Ø ÔÖÓ Ö Ñ ÈÓ ××ÓÒÎ Ö Ò
ºÑ¸ ÓÖ Ç Î Ò



Êθ Û Ø Ï × Ø Ø Ú Ò Ø Ö
ÓÒ Ø ÓÒ Ò ¸ Ø ÓÚ Ö ×Ô Ö× ÓÒ × ÒÓØ
ÔØÙÖ Ò





Ì Ð ½º Å Ö Ò Ð Î Ö Ò
׸ Ë ÑÔÐ Ò ×Ø Ñ Ø ´ÈÓ ××ÓÒµ





Ç Î ÊÎ



Ë ÑÔÐ ¿ º¼ ¼º½ ½

×Ø Ñ Ø ¿º¾ ¼º¼







Ø Ö
× º Ì Ö × Ù ÔÖÓ Ð Ñ Û Ø Ç Î¸ Ò × Ò
ÒØ ÔÖÓ Ð Ñ Û Ø Êκ ÁÒ

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼¾







ÓØ
× × Ø ÈÓ ××ÓÒ ÑÓ Ð Ó × ÒÓØ ÔÔ Ö ØÓ ÔÐ Ù× Ð º ÓÙ
Ò

Ø × ÓÖ Ø



ÓØ Ö Ù× Ñ ×ÙÖ × ÝÓÙ Ð º





¾º½º ÁÒ Ò Ø Ñ ÜØÙÖ ÑÓ Ð× Ø Ò Ø Ú ÒÓÑ Ð ÑÓ Ðº Ê Ö Ò
Ñ ÖÓÒ



Ò ÌÖ Ú ´½ µ Ê Ö ×× ÓÒ Ò ÐÝ× × Ó
ÓÙÒØ Ø ¸
ÔØ Ö º

Ì ØÛÓ Ñ ×ÙÖ × × Ñ ØÓ Ü Ø ÜØÖ ¹ÈÓ ××ÓÒ Ú Ö Ø ÓÒº ÌÓ
ÔØÙÖ ÙÒÓ × ÖÚ



Ø ÖÓ Ò Øݸ ÔÓ×× Ð ØÝ × Ø Ö Ò ÓÑ Ô Ö Ñ Ø Ö× ÔÔÖÓ
º ÓÒ× Ö Ø ÔÓ×× Ð ØÝ



Ø Ø Ø
ÓÒ×Ø ÒØ Ø ÖÑ Ò ÈÓ ××ÓÒ ÑÓ Ð Û Ö Ö Ò ÓÑ



exp(−θ)θ y

fY (y|x, ε) =

y!

θ = exp(x′β + ε)

= exp(x′β) exp(ε)

= λν



Û Ö λ = exp(x′β µ Ò ν = exp(ε)º ÆÓÛ ν
ÔØÙÖ × Ø Ö Ò ÓÑÒ ×× Ò Ø
ÓÒ×Ø Òغ



Ì ÔÖÓ Ð Ñ × Ø Ø Û ÓÒ³Ø Ó × ÖÚ ν¸ ×Ó Û Û ÐÐ Ò ØÓ Ñ Ö Ò Ð Þ Ø ØÓ Ø Ù× Ð



Ò× ØÝ

∞

exp[−θ]θ y

fY (y|x) = fv (z)dz

−∞ y!

Ì × Ò× ØÝ
Ò Ù× Ö
ØÐݸ Ô Ö Ô× Ù× Ò ÒÙÑ Ö
Ð ÒØ Ö Ø ÓÒ ØÓ Ú ÐÙ Ø Ø



Ð Ð ÓÓ ÙÒ
Ø ÓÒº ÁÒ ×ÓÑ
× ×¸ Ø ÓÙ ¸ Ø ÒØ Ö Ð Û ÐÐ Ú Ò Ò ÐÝØ
×ÓÐÙØ ÓÒº ÓÖ



Ü ÑÔÐ ¸ ν ÓÐÐÓÛ×
ÖØ Ò ÓÒ Ô Ö Ñ Ø Ö ÑÑ Ò× Øݸ Ø Ò



ψ y

Γ(y + ψ) ψ λ

´ µ fY (y|x, φ) =

Γ(y + 1)Γ(ψ) ψ+λ ψ+λ

Û Ö φ = (λ, ψ)º ψ ÔÔ Ö× × Ò
Ø × Ø Ô Ö Ñ Ø Ö Ó Ø ÑÑ Ò× Øݺ



• ÓÖ Ø × Ò× Øݸ E(y|x) = λ¸ Û
Û Ú Ô Ö Ñ Ø Ö Þ λ = exp(x′ β)

• Ì Ú Ö Ò
Ô Ò × ÙÔÓÒ ÓÛ ψ × Ô Ö Ñ Ø Ö Þ º



Á ψ = λ/α¸ Û Ö α > 0¸ Ø Ò V (y|x) = λ + αλº ÆÓØ Ø Ø λ × ÙÒ
Ø ÓÒ



Ó x¸ ×Ó Ø Ø Ø Ú Ö Ò
× ØÓÓº Ì × × Ö ÖÖ ØÓ × Ø Æ ¹Á ÑÓ Ðº



Á ψ = 1/α¸ Û Ö α > 0¸ Ø Ò V (y|x) = λ + αλ2 º Ì × × Ö ÖÖ ØÓ × Ø



Æ ¹ÁÁ ÑÓ Ðº



ËÓ ÓØ ÓÖÑ× Ó Ø Æ ÑÓ Ð ÐÐÓÛ ÓÖ ÓÚ Ö ×Ô Ö× ÓÒ¸ Û Ø Ø Æ ¹ÁÁ ÑÓ Ð ÐÐÓÛ Ò



ÓÖ ÑÓÖ Ö
Ð ÓÖѺ



Ì ×Ø Ò Ö Ù
Ø ÓÒ Ó Æ ÑÓ Ð ØÓ ÈÓ ××ÓÒ ÑÓ Ð
ÒÒÓØ ÓÒ Ý Ø ×Ø Ò α=0

Ù× Ò ×Ø Ò Ö Ï Ð ÓÖ ÄÊ ÔÖÓ
ÙÖ ×º Ì
Ö Ø
Ð Ú ÐÙ × Ò ØÓ Ù×Ø ØÓ

ÓÙÒØ



ÓÖ Ø
Ø Ø Ø α=0 × ÓÒ Ø ÓÙÒ ÖÝ Ó Ø Ô Ö Ñ Ø Ö ×Ô
º Ï Ø ÓÙØ ØØ Ò ÒØÓ



Ø Ð׸ ×ÙÔÔÓ× Ø Ø Ø Ø Û Ö Ò
Ø ÈÓ ××ÓÒ¸ ×Ó Ø Ö × ÕÙ ×Ô Ö× ÓÒ Ò Ø ØÖÙ



α = 0º Ì Ò ÓÙØ Ð Ø Ø Ñ Ø × ÑÔÐ Ø Û ÐÐ ÙÒ Ö ×Ô Ö× ¸ Ò ÓÙØ Ð



Ø Ø Ñ ÓÚ Ö ×Ô Ö× º Ï Ò Ø Ø × ÙÒ Ö ×Ô Ö× ¸ Ø ÅÄ Ó α Û ÐÐ α = 0º

ˆ

Ì Ù׸ ÙÒ Ö Ø ÒÙÐи Ø Ö Û ÐÐ ÔÖÓ Ð ØÝ ×Ô Ò Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó

√

α

n(ˆ − α) = ˆ

nα Ø ¼¸ ×Ó ×Ø Ò Ö Ø ×Ø Ò Ñ Ø Ó × Û ÐÐ ÒÓØ Ú Ð º



Ì × ÔÖÓ Ö Ñ Û ÐÐ Ó ×Ø Ñ Ø ÓÒ Ù× Ò Ø Æ ÑÓ Ðº ÆÓØ ÓÛ ÑÓ Ð Ö × × Ù× ØÓ



× Ð
Ø Æ ¹Á ÓÖ Æ ¹ÁÁ Ò× Øݺ À Ö Ö Æ ¹Á ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× ÓÖ Ç Î







ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ



Ç Î

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼¿









ËÅÁÆ Ò Ð Ö ×ÙÐØ×



Í× Ò ÐÝØ
Ö ÒØ



¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

ËÌÊÇÆ ÇÆÎ Ê Æ

ÙÒ
Ø ÓÒ
ÓÒÚ ½ È Ö Ñ
ÓÒÚ ½ Ö ÒØ
ÓÒÚ ½

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¾º½ ¿

ËØ Ô× Þ ¼º¼¼¼

½ Ø Ö Ø ÓÒ×

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹



Ô Ö Ñ Ö ÒØ
Ò

½º¼ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¾ ½ ¹¼º¼¼¼¼ ¼º¼¼¼¼

¼º¾¼¾ ¹¼º¼¼¼¼ ¼º¼¼¼¼

¼º¾¾ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º½ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¼ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¼¼¼¼ ¹¼º¼¼¼¼ ¼º¼¼¼¼

½º ½ ¹¼º¼¼¼¼ ¼º¼¼¼¼





¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Æ Ø Ú ÒÓÑ Ð ÑÓ Ð¸ Å ÈË ½ ÙÐÐ Ø × Ø



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¹¾º½ ¿¼

Ç × ÖÚ Ø ÓÒ×



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¹¼º ¾¿ ¼º½¼ ¹ º¼¼ ¼º¼¼¼

ÔÙ º Ò׺ ¼º ¼º¼ ½ º½ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º ½ ¼º¼ º½ ¼º¼¼¼

× Ü ¼º ¼º¼¿ ½¿º ½¾ ¼º¼¼¼

¼º¼½ ¼º¼¼½ ½½º ¼º¼¼¼

Ù ¼º¼¾ ¼º¼¼ ¿º ¼º¼¼¼

Ò
¼º¼¼¼ ¼º¼¼¼ ¼º¼¼¼ ½º¼¼¼

ÐÔ º ¼º¾ ½ º ¾ ¼º¼¼¼



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ¾¼¼¾ º ½¿ Ú º Á º¿ ¼

Á ¾¼¼½ º ½¿ Ú º Á º¿ ¾

Á ½ º¿ ¿ Ú º Á º¿ ¼

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶





ÆÓØ Ø Ø Ø Ô Ö Ñ Ø Ö Ú ÐÙ × Ó Ø Ð ×Ø Ë Ø Ö Ø ÓÒ Ö Ö ÒØ Ø Ø Ø Ó×



Ö ÔÓÖØ Ò Ø Ò Ð Ö ×ÙÐØ׺ Ì × Ö
Ø× ØÛÓ Ø Ò × ¹ Ö×ظ Ø Ø Û Ö ×
Ð ÓÖ



Ó Ò Ø Ë Ñ Ò Ñ Þ Ø ÓÒ¸ ÙØ Ø ÑÐ Ö ×ÙÐØ× ×
Ö ÔØ Ø × Ø × ÒØÓ

ÓÙÒØ Ò



Ö ÔÓÖØ× Ø Ö ×ÙÐØ× Ù× Ò Ø ÓÖ Ò Ð ×
Ð Ò º ÙØ Ð×Ó¸ Ø Ô Ö Ñ Ø Ö Þ Ø ÓÒ α = exp(α∗ )

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼







× Ù× ØÓ Ò ÓÖ
Ø Ö ×ØÖ
Ø ÓÒ Ø Ø α > 0º Ì ÙÒÖ ×ØÖ
Ø Ô Ö Ñ Ø Ö α∗ = log α ×



Ù× ØÓ Ò Ø ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ¸ × Ò
Ø Ë Ñ Ò Ñ Þ Ø ÓÒ Ð ÓÖ Ø Ñ Ó ×



ÒÓØ Ó
ÓÒØÖ Ò Ñ Ò Ñ Þ Ø ÓÒº ÌÓ Ø Ø ×Ø Ò Ö ÖÖÓÖ Ò Ø¹×Ø Ø ×Ø
Ó Ø ×Ø Ñ Ø



Ó α¸ Û Ò ØÓ Ù× Ø ÐØ Ñ Ø Ó º Ì × × ÓÒ Ò× ÑÐ Ö ×ÙÐØ׸ Ñ Ò Ù× Ó



Ø ÙÒ
Ø ÓÒ Ô Ö Ñ Ø Ö Þ ºÑ º



Ä Û × ¸ Ö Ö Æ ¹ÁÁ Ö ×ÙÐØ×







ÅÈÁÌ ÜØ Ò× ÓÒ× ÓÙÒ



Ç Î





ËÅÁÆ Ò Ð Ö ×ÙÐØ×



Í× Ò ÐÝØ
Ö ÒØ



¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

ËÌÊÇÆ ÇÆÎ Ê Æ

ÙÒ
Ø ÓÒ
ÓÒÚ ½ È Ö Ñ
ÓÒÚ ½ Ö ÒØ
ÓÒÚ ½

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¾º½

ËØ Ô× Þ ¼º¼½¼ ¿

½¿ Ø Ö Ø ÓÒ×

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹



Ô Ö Ñ Ö ÒØ
Ò

½º¼¿ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¿ ¿ ¹¼º¼¼¼¼ ¼º¼¼¼¼

¼º¾½¿ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¾ ½ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¿¼¾ ¼º¼¼¼¼ ¼º¼¼¼¼

¼º¼ ¿ ¹¼º¼¼¼¼ ¼º¼¼¼¼

¹¼º¼¼ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º ¼ ¹¼º¼¼¼¼ ¼º¼¼¼¼





¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Æ Ø Ú ÒÓÑ Ð ÑÓ Ð¸ Å ÈË ½ ÙÐÐ Ø × Ø



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¹¾º½ ¾

Ç × ÖÚ Ø ÓÒ×



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¹½º¼ ¼º½ ½ ¹ º ¾¾ ¼º¼¼¼

ÔÙ º Ò׺ ½º½¼½ ¼º¼ ½½º ½½ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º ¼º¼ ½ º ¼ ¼º¼¼¼

× Ü ¼º ¼º¼ ¼ ½½º½ ¼º¼¼¼

¼º¼¾ ¼º¼¼¾ ½¾º¾ ¼ ¼º¼¼¼

Ù ¼º¼¾ ¼º¼¼ ¿º½¼ ¼º¼¼¾

Ò
¹¼º¼¼¼ ¼º¼¼¼ ¹¼º½ ¼º ½

ÐÔ ½º ½¿ ¼º¼ ¾ º¼ ¼º¼¼¼

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼







ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ¾¼¼½ º ¿ Ú º Á º¿

Á ¾¼¼½½º ¿ Ú º Á º¿

Á ½ ¼º¿¿ ¾ Ú º Á º¿ ¿

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶



• ÓÖ Ø Ç Î Ù× Ñ ×ÙÖ Ð¸ Ø Æ ¹ÁÁ ÑÓ Ð Ó × ×Ð ØÐÝ ØØ Ö Ó Ø Ò



Ø Æ ¹Á ÑÓ Ð¸ Ò Ø ÖÑ× Ó Ø Ú Ö ÐÓ ¹Ð Ð ÓÓ Ò Ø Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö



´ÑÓÖ ÓÒ Ø × Ð ×Ø Ò ÑÓÑ Òصº



• ÆÓØ Ø Ø ÓØ Ú Ö× ÓÒ× Ó Ø Æ ÑÓ Ð Ø ÑÙ
ØØ Ö Ø Ò Ó × Ø ÈÓ ××ÓÒ



ÑÓ Ð ´× º¾µº



• Ì ×Ø Ñ Ø α × ÐÝ × Ò
Òغ



ÌÓ

Ø ÔÐ Ù× Ð ØÝ Ó Ø Æ ¹ÁÁ ÑÓ Ð¸ Û
Ò
ÓÑÔ Ö Ø × ÑÔÐ ÙÒ
ÓÒ Ø ÓÒ Ð



Ú Ö Ò
Û Ø Ø ×Ø Ñ Ø ÙÒ
ÓÒ Ø ÓÒ Ð Ú Ö Ò


ÓÖ Ò ØÓ Ø Æ ¹ÁÁ ÑÓ Ð V (y) =

Pn ˆ ˆ ˆ 2

t=1 λt +α(λt )

º ÓÖ Ç Î Ò ÊÎ ´ ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× ÒÓØ Ö ÔÓÖØ µ¸ Û Ø ÓÖ Ç Î¸

n



Ì Ð ¾º Å Ö Ò Ð Î Ö Ò
׸ Ë ÑÔÐ Ò ×Ø Ñ Ø ´Æ ¹ÁÁµ





Ç Î ÊÎ



Ë ÑÔÐ ¿ º¼ ¼º½ ½

×Ø Ñ Ø ¿¼º ¼º½ ¾





Ø ÓÚ Ö ×Ô Ö× ÓÒ ÔÖÓ Ð Ñ × × Ò
ÒØÐÝ ØØ Ö Ø Ò Ò Ø ÈÓ ××ÓÒ
× ¸ ÙØ Ø Ö × ×Ø ÐÐ



×ÓÑ Ø Ø × ÒÓØ
ÔØÙÖ º ÓÖ Êθ Ø Ò Ø Ú ÒÓÑ Ð ÑÓ Ð × Ñ× ØÓ
ÔØÙÖ Ø



ÓÚ Ö ×Ô Ö× ÓÒ ÕÙ Ø Ðݺ





¾º¾º Ò Ø Ñ ÜØÙÖ ÑÓ Ð× Ø ÑÜ Ò ØÚ ÒÓÑ Ð ÑÓ Ðº Ì Ò Ø



Ñ ÜØÙÖ ÔÔÖÓ
ØÓ ØØ Ò ÐØ
Ö Ñ Ò Û × ÒØÖÓ Ù
Ý Ò ÌÖ Ú ´½ µº



Ì Ñ ÜØÙÖ ÔÔÖÓ
× Ø ÒØÙ Ø Ú ÔÔ Ð Ó ÐÐÓÛ Ò ÓÖ ×Ù ÖÓÙÔ× Ó Ø ÔÓÔÙÐ Ø ÓÒ



Û Ø Ö ÒØ ÐØ ×Ø ØÙ׺ Á Ò Ú Ù Ð× Ö
Ð ×× × ÐØ Ý ÓÖ ÙÒ ÐØ Ý Ø Ò ØÛÓ



×Ù ÖÓÙÔ× Ö Ò º Ò Ö
Ð ××
Ø ÓÒ ×
Ñ ÛÓÙÐ Ð ØÓ ÑÓÖ ×Ù ÖÓÙÔ׺ Å ÒÝ



×ØÙ × Ú Ò
ÓÖÔÓÖ Ø Ó
Ø Ú Ò »ÓÖ ×Ù
Ø Ú Ò
ØÓÖ× Ó ÐØ ×Ø ØÙ× Ò Ò



ÓÖØ ØÓ
ÔØÙÖ Ø × Ø ÖÓ Ò Øݺ Ì Ú Ð Ð Ó
Ø Ú Ñ ×ÙÖ ×¸ ×Ù
× Ð Ñ Ø Ø ÓÒ×



ÓÒ
Ø Ú Øݸ Ö ÒÓØ Ò
×× Ö ÐÝ Ú ÖÝ Ò ÓÖÑ Ø Ú ÓÙØ Ô Ö×ÓÒ³× ÓÚ Ö ÐÐ ÐØ ×Ø ØÙ׺



ËÙ
Ø Ú ¸ × Ð ¹Ö ÔÓÖØ Ñ ×ÙÖ × Ñ Ý ×Ù Ö ÖÓÑ Ø × Ñ ÔÖÓ Ð Ñ¸ Ò Ñ Ý Ð×Ó ÒÓØ



ÜÓ ÒÓÙ×



Ò Ø Ñ ÜØÙÖ ÑÓ Ð× Ö
ÓÒ
ÔØÙ ÐÐÝ × ÑÔÐ º Ì Ò× ØÝ ×



p−1

(i) p

fY (y, φ1 , ..., φp , π1 , ..., πp−1 ) = πi fY (y, φi ) + πp fY (y, φp ),

i=1

p−1 p

Û Ö πi > 0, i = 1, 2, ..., p¸ πp = 1 − i=1 πi ¸ Ò i=1 πi

= 1º Á ÒØ
Ø ÓÒ Ö ÕÙ Ö ×



Ø Ø Ø πi Ö ÓÖ Ö Ò ×ÓÑ Û Ý¸ ÓÖ Ü ÑÔÐ ¸ π1 ≥ π2 ≥ · · · ≥ πp Ò φi = φj , i = j º

Ì × × × ÑÔÐ ØÓ

ÓÑÔÐ × ÔÓ×ع ×Ø Ñ Ø ÓÒ Ý Ö ÖÖ Ò Ñ ÒØ Ò ÔÓ×× Ð Ð Ñ Ò Ø ÓÒ Ó



Ö ÙÒ ÒØ
ÓÑÔÓÒ ÒØ Ò× Ø ×º



• Ì ÔÖÓÔ ÖØ × Ó Ø Ñ ÜØÙÖ Ò× ØÝ ÓÐÐÓÛ Ò ×ØÖ Ø ÓÖÛ Ö Û Ý ÖÓÑ Ø Ó×



Ó Ø
ÓÑÔÓÒ ÒØ׺ ÁÒ Ô ÖØ
ÙÐ Ö¸ Ø ÑÓÑ ÒØ Ò Ö Ø Ò ÙÒ
Ø ÓÒ × Ø × Ñ



Ñ ÜØÙÖ Ó Ø ÑÓÑ ÒØ Ò Ö Ø Ò ÙÒ
Ø ÓÒ× Ó Ø
ÓÑÔÓÒ ÒØ Ò× Ø ×¸ ×Ó¸ ÓÖ

p

Ü ÑÔÐ ¸ E(Y |x) = i=1 πi µi (x)¸ Û Ö µi (x) × Ø Ñ Ò Ó Ø ith
ÓÑÔÓÒ ÒØ

Ò× Øݺ

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼







• Å ÜØÙÖ Ò× Ø × Ñ Ý ×Ù Ö ÖÓÑ ÓÚ ÖÔ Ö Ñ Ø Ö Þ Ø ÓÒ¸ × Ò
Ø ØÓØ Ð ÒÙÑ Ö Ó



Ô Ö Ñ Ø Ö× ÖÓÛ× Ö Ô ÐÝ Û Ø Ø ÒÙÑ Ö Ó
ÓÑÔÓÒ ÒØ Ò× Ø ×º ÁØ × ÔÓ×× Ð



ØÓ
ÓÒ×ØÖ Ò Ô Ö Ñ Ø Ö×
ÖÓ×× Ø Ñ ÜØÙÖ ×º



• Ì ×Ø Ò ÓÖ Ø ÒÙÑ Ö Ó
ÓÑÔÓÒ ÒØ Ò× Ø × × ØÖ
Ý ××Ù º ÓÖ Ü ÑÔÐ ¸



Ø ×Ø Ò ÓÖ p=1 ´ × Ò Ð
ÓÑÔÓÒ Òظ Û
× ØÓ × Ý¸ ÒÓ Ñ ÜØÙÖ µ Ú Ö×Ù× p=2

´ Ñ ÜØÙÖ Ó ØÛÓ
ÓÑÔÓÒ ÒØ×µ ÒÚÓÐÚ × Ø Ö ×ØÖ
Ø ÓÒ π1 = 1¸ Û
× ÓÒ Ø



ÓÙÒ ÖÝ Ó Ø Ô Ö Ñ Ø Ö ×Ô
º ÆÓØ Ø Ø Û Ò π1 = 1¸ Ø Ô Ö Ñ Ø Ö× Ó Ø



×
ÓÒ
ÓÑÔÓÒ ÒØ
Ò Ø ÓÒ ÒÝ Ú ÐÙ Û Ø ÓÙØ
Ø Ò Ø Ò× Øݺ Í×Ù Ð



Ñ Ø Ó × ×Ù
× Ø Ð Ð ÓÓ Ö Ø Ó Ø ×Ø Ö ÒÓØ ÔÔÐ
Ð Û Ò Ô Ö Ñ Ø Ö×



Ö ÓÒ Ø ÓÙÒ ÖÝ ÙÒ Ö Ø ÒÙÐÐ ÝÔÓØ × ×º ÁÒ ÓÖÑ Ø ÓÒ
Ö Ø Ö Ñ Ò× Ó




ÓÓ× Ò Ø ÑÓ Ð ´× ÐÓÛµ Ö Ú Ð º







Ì ÓÐÐÓÛ Ò Ö ×ÙÐØ× Ö ÓÖ Ñ ÜØÙÖ Ó ¾ Æ ¹ÁÁ ÑÓ Ð׸ ÓÖ Ø Ç Î Ø ¸ Û
ÝÓÙ




Ò Ö ÔÐ
Ø Ù× Ò Ø × ÔÖÓ Ö Ñ º









Ç Î





¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Å Ü Æ Ø Ú ÒÓÑ Ð ÑÓ Ð¸ Å ÈË ½ ÙÐÐ Ø × Ø



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¹¾º½ ¿

Ç × ÖÚ Ø ÓÒ×



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¼º½¾ ¼º ½¾ ¼º¾ ¼º ¼

ÔÙ º Ò׺ ¼º ½ ¼º½ º ¾ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º½ ¼º½ ¿ ¼º ¼º ¼

× Ü ¼º¿ ¼º½½ ¿º¼½ ¼º¼¼¿

¼º¼¾ ¼º¼¼ º½½ ¼º¼¼¼

Ù ¼º¼¾ ¼º¼½ ½º ¼ ¼º½½¾

Ò
¹¼º¼¼¼ ¼º¼¼¼ ¹¼º¾½ ¼º ¿½

ÐÔ ½º¿ ½ ¼º½ º¼ ½ ¼º¼¼¼


ÓÒ×Ø ÒØ ¼º ¾ ¼º½ ¾º ¼º¼¼

ÔÙ º Ò׺ ¼º ¾¾ ¼º¼ º ¾ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º¿ ¼º¼ º¿ ¼º¼¼¼

× Ü ¼º ¼¼ ¼º¼ º ¿ ¼º¼¼¼

¼º¾ ¼º¼¿ º½ ¼º¼¼¼

Ù ¼º½½½ ¼º¼ ¾ ¾º ¿ ¼º¼¼

Ò
¼º¼½ ¼º¼ ½ ¼º¾ ¼º

ÐÔ ½º¼¿ ¼º½ º ½ ¼º¼¼¼

Å Ü ¼º¾ ¼º½ ¾ ½º ¾ ¼º½½



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ½ ¾¼º¿ ¼ Ú º Á º¿

Á ½ ¼¿º¿ ¼ Ú º Á º¿ ½¼

Á ½ º½¿ Ú º Á º¿¿ ¼

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼







ÁØ × ÛÓÖØ ÒÓØ Ò Ø Ø Ø Ñ ÜØÙÖ Ô Ö Ñ Ø Ö × ÒÓØ × Ò
ÒØÐÝ Ö ÒØ ÖÓÑ Þ ÖÓ¸



ÙØ Ð×Ó ÒÓØ Ø Ø Ø
Ó
ÒØ× Ó ÔÙ Ð
Ò×ÙÖ Ò
Ò ¸ ÓÖ Ü ÑÔÐ ¸ Ö ÕÙ Ø



Ø ØÛ Ò Ø ØÛÓ Ð Ø ÒØ
Ð ×× ×º





¾º¿º ÁÒ ÓÖÑ Ø ÓÒ
Ö Ø Ö º × × Ò ÓÚ ¸ ÈÓ ××ÓÒ ÑÓ Ð
Ò³Ø Ø ×Ø ´Ù× Ò



×Ø Ò Ö Ñ Ø Ó ×µ × Ö ×ØÖ
Ø ÓÒ Ó Ò Ø Ú ÒÓÑ Ð ÑÓ Ðº ÙØ Ø × Ñ׸ × ÙÔÓÒ



Ø Ú ÐÙ × Ó Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ× Ò Ø
Ø Ø Ø Ø Æ ÑÓ Ð Ø× Ø Ú Ö Ò




ÑÙ
ØØ Ö¸ Ø Ø Ø Æ ÑÓ Ð × ÑÓÖ ÔÔÖÓÔÖ Ø º ÀÓÛ
Ò Û Ø ÖÑ Ò Û
Ó



× Ø Ó
ÓÑÔ Ø Ò ÑÓ Ð× × Ø ×Ø



Ì Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö ÔÔÖÓ
× ÓÒ ÔÓ×× Ð Øݺ ÁÒ ÓÖÑ Ø ÓÒ
Ö Ø Ö Ö ÙÒ
Ø ÓÒ×



Ó Ø ÐÓ ¹Ð Ð ÓÓ ¸ Û Ø Ô Ò ÐØÝ ÓÖ Ø ÒÙÑ Ö Ó Ô Ö Ñ Ø Ö× Ù× º Ì Ö ÔÓÔÙÐ Ö



Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö Ö Ø ´ Á µ¸ Ý × ´ Á µ Ò
ÓÒ× ×Ø ÒØ ´ Á µº Ì



ÓÖÑÙÐ Ö



ˆ

CAIC = −2 ln L(θ) + k(ln n + 1)

ˆ

BIC = −2 ln L(θ) + k ln n

ˆ

AIC = −2 ln L(θ) + 2k



ÁØ
Ò × ÓÛÒ Ø Ø Ø Á Ò Á Û ÐÐ × Ð
Ø Ø
ÓÖÖ
ØÐÝ ×Ô
ÑÓ Ð ÖÓÑ



ÖÓÙÔ Ó ÑÓ Ð׸ ×ÝÑÔØÓØ
ÐÐݺ Ì × Ó ×Ò³Ø Ñ Ò¸ Ó
ÓÙÖ× ¸ Ø Ø Ø
ÓÖÖ
Ø ÑÓ Ð



× Ò
× Ö ÐÝ Ò Ø ÖÓÙÔº Ì Á × ÒÓØ
ÓÒ× ×Ø Òظ Ò Û ÐÐ ×ÝÑÔØÓØ
ÐÐÝ ÚÓÖ Ò



ÓÚ Ö¹Ô Ö Ñ Ø Ö Þ ÑÓ Ð ÓÚ Ö Ø
ÓÖÖ
ØÐÝ ×Ô
ÑÓ Ðº À Ö Ö Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö



Ú ÐÙ × ÓÖ Ø ÑÓ Ð× Û ³Ú × Ò¸ ÓÖ Ç Îº ÈÖ ØØÝ
Ð ÖÐݸ Ø Æ ÑÓ Ð× Ö ØØ Ö





Ì Ð ¿º ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö ¸ Ç Î





ÅÓ Ð Á Á Á



ÈÓ ××ÓÒ º¿ º¿ º¿

Æ ¹Á º¿ º¿ º¿

Æ ¹ÁÁ º¿ ¿ º¿ º¿

ÅÆ ¹ÁÁ º¿¿ º¿ ½ º¿







Ø Ò Ø ÈÓ ××ÓÒº Ì ÓÒ Ø ÓÒ Ð Ô Ö Ñ Ø Ö Ú × Ú ÖÝ × Ò
ÒØ ÑÔÖÓÚ Ñ ÒØ Ò



Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ Ú ÐÙ º ØÛ Ò Ø Æ ¹Á Ò Æ ¹ÁÁ ÑÓ Ð׸ Ø Æ ¹ÁÁ × ×Ð ØÐÝ



ÚÓÖ º ÙØ ÓÒ × ÓÙÐ Ö Ñ Ñ Ö Ø Ø Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö Ú ÐÙ × Ö ×Ø Ø ×Ø
׸ Û Ø



Ú Ö Ò
׺ Ï Ø ÒÓØ Ö × ÑÔÐ ¸ Ø Ñ Ý Û ÐÐ Ø Ø Ø Æ ¹Á ÑÓ Ð ÛÓÙÐ ÚÓÖ ¸



× Ò
Ø Ö Ò
× Ö ×Ó ×Ñ Ðк Ì ÅÆ ¹ÁÁ ÑÓ Ð × ÚÓÖ ÓÚ Ö Ø ÓØ Ö׸ Ý ÐÐ ¿



Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö º



Ï Ý × ÐÐ Ó Ø × Ò Ø
ÔØ Ö ÓÒ ÉÅÄ Ä Ø³× ×ÙÔÔÓ× Ø Ø Ø
ÓÖÖ
Ø ÑÓ Ð ÓÖ



Ç Î × Ò
Ø Ø Æ ¹ÁÁ ÑÓ Ðº ÁØ ØÙÖÒ× ÓÙØ Ò Ø ×
× Ø Ø Ø ÈÓ ××ÓÒ ÑÓ Ð Û ÐÐ



Ú
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø × Ó Ø ×ÐÓÔ Ô Ö Ñ Ø Ö× ´ ÑÓ Ð × Ñ Ñ Ö Ó Ø Ð Ò Ö¹



ÜÔÓÒ ÒØ Ð Ñ ÐÝ Ò Ø
ÓÒ Ø ÓÒ Ð Ñ Ò ×
ÓÖÖ
ØÐÝ ×Ô
¸ Ø Ò Ø Ô Ö Ñ Ø Ö× Ó



Ø
ÓÒ Ø ÓÒ Ð Ñ Ò Û ÐÐ
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø µº ËÓ Ø ÈÓ ××ÓÒ ×Ø Ñ ØÓÖ ÛÓÙÐ



ÉÅÄ ×Ø Ñ ØÓÖ Ø Ø ×
ÓÒ× ×Ø ÒØ ÓÖ ×ÓÑ Ô Ö Ñ Ø Ö× Ó Ø ØÖÙ ÑÓ Ðº Ì ÓÖ Ò ÖÝ



ÇÈ ÓÖ ÒÚ Ö× À ×× Ò Ò ÅÄ
ÓÚ Ö Ò
×Ø Ñ ØÓÖ× Ö ÓÛ Ú Ö × Ò Ò
ÓÒ× ×Ø Òظ



× Ò
Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ÕÙ Ð ØÝ Ó × ÒÓØ ÓÐ ÓÖ ÉÅÄ ×Ø Ñ ØÓÖ׺ ÙØ ÓÖ º º º Ø



´Û
× Ø
× ÓÖ Ø Å ÈË Ø µ Ø ÉÅÄ ×ÝÑÔØÓØ

ÓÚ Ö Ò

Ò
ÓÒ× ×Ø ÒØÐÝ



×Ø Ñ Ø ¸ × ×
Ù×× ÓÚ ¸ Ù× Ò Ø × Ò Û
ÓÖÑ ÓÖ Ø ÅÄ ×Ø Ñ ØÓÖº ÑÐ Ö ×ÙÐØ×

Ò
Ø Ö ÔÓÖØ× × Ò Û
Ö ×ÙÐØ׸ ×Ó Ø ÈÓ ××ÓÒ ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× ÛÓÙÐ Ö Ð Ð ÓÖ

¾º ÅÈÄ ÌÀ Å ÈË Ì ¾¼







Ò Ö Ò
Ú Ò Ø ØÖÙ ÑÓ Ð × Ø Æ ¹Á ÓÖ Æ ¹ÁÁº ÆÓØ Ø Ø Ø Ý Ö Ò
Ø × Ñ Ð Ö ØÓ



Ø Ö ×ÙÐØ× ÓÖ Ø Æ ÑÓ Ð׺



ÀÓÛ Ú Ö¸ Û ××ÙÑ Ø Ø Ø
ÓÖÖ
Ø ÑÓ Ð × Ø ÅÆ ¹ÁÁ ÑÓ Ð¸ × × ÚÓÖ Ý



Ø Ò ÓÖÑ Ø ÓÒ
Ö Ø Ö ¸ Ø Ò ÓØ Ø ÈÓ ××ÓÒ Ò Æ ¹x ÑÓ Ð× Û ÐÐ Ú Ñ ××Ô




Ñ Ò ÙÒ
Ø ÓÒ׸ ×Ó Ø Ô Ö Ñ Ø Ö× Ø Ø Ò Ù Ò
Ø Ñ Ò× ÛÓÙÐ ×Ø Ñ Ø Û Ø ×



Ò Ò
ÓÒ× ×Ø ÒØÐݺ

Ê ÁË Ë ¾¼







Ü Ö
× ×



Ü Ö
× ×

´½µ ÓÒ× Ö Ò Ø Å ÈË Ø ´Ø ×
Ö ÔØ ÓÒ × Ò Ë
Ø ÓÒ º¾µ¸ ÓÖ Ø Ç Î ´y µ

½

Ñ ×ÙÖ ¸ Ð Ø η Ð Ø ÒØ Ò Ü Ó ÐØ ×Ø ØÙ× Ø Ø × ÜÔ
Ø Ø ÓÒ ÕÙ Ð ØÓ ÙÒ Øݺ



Ï ×Ù×Ô
Ø Ø Ø η Ò P RIV Ñ Ý
ÓÖÖ Ð Ø ¸ ÙØ Û ××ÙÑ Ø Ø η × ÙÒ
ÓÖÖ Ð Ø



Û Ø Ø ÓØ Ö Ö Ö ××ÓÖ׺ Ï ××ÙÑ Ø Ø





E(y|P U B, P RIV, AGE, EDU C, IN C, η)

= exp(β1 + β2 P U B + β3 P RIV + β4 AGE + β5 EDU C + β6 IN C)η.



Ï Ù× Ø ÈÓ ××ÓÒ ÉÅÄ ×Ø Ñ ØÓÖ Ó Ø ÑÓ Ð





y ∼ ÈÓ ××ÓÒ(λ)



´ ¼µ λ = exp(β1 + β2 P U B + β3 P RIV +

β4 AGE + β5 EDU C + β6 IN C).



Ë Ò
ÑÙ
ÔÖ Ú ÓÙ× Ú Ò
Ò
Ø × Ø Ø ÐØ
Ö × ÖÚ
× Ù× × ÓÚ Ö ×¹

¾

Ô Ö× ¸Ø × × ÐÑÓ×Ø
ÖØ ÒÐÝ ÒÓØ Ò ÅÄ ×Ø Ñ ØÓÖ¸ Ò Ø Ù× × ÒÓØ
Òغ ÀÓÛ Ú Ö¸



Û Ò η Ò P RIV Ö ÙÒ
ÓÖÖ Ð Ø ¸ Ø × ×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø ÒØ ÓÖ Ø βi Ô Ö Ñ Ø Ö׸



× Ò
Ø
ÓÒ Ø ÓÒ Ð Ñ Ò ×
ÓÖÖ
ØÐÝ ×Ô
Ò Ø Ø
× º Ï Ò η Ò P RIV Ö




ÓÖÖ Ð Ø ¸ ÅÙÐÐ Ý³× ´½ µ ÆÄÁÎ ×Ø Ñ ØÓÖ Ø Ø Ù× × Ø Ö × Ù Ð ÙÒ
Ø ÓÒ



y

ε= − 1,

λ

Û Ö λ × Ò Ò ÕÙ Ø ÓÒ ¼¸ Û Ø ÔÔÖÓÔÖ Ø Ò×ØÖÙÑ ÒØ׸ ×
ÓÒ× ×Ø Òغ ×



Ò×ØÖÙÑ ÒØ× Û Ù× ÐÐ Ø ÜÓ ÒÓÙ× Ö Ö ××ÓÖ׸ × Û ÐÐ × Ø
ÖÓ×× ÔÖÓ Ù
Ø× Ó PUB

Û Ø Ø Ú Ö Ð × Ò Z = {AGE, EDU C, IN C}º Ì Ø ×¸ Ø ÙÐÐ × Ø Ó Ò×ØÖÙÑ ÒØ×



×



W = {1 P U B Z P U B × Z }.

´ µ Ð
ÙÐ Ø Ø ÈÓ ××ÓÒ ÉÅÄ ×Ø Ñ Ø ×º



´ µ Ð
ÙÐ Ø Ø Ò Ö Ð Þ ÁÎ ×Ø Ñ Ø × ´ Ó Ø Ù× Ò ÅÅ ÓÖÑÙÐ Ø ÓÒ ¹ × Ø



ÔÓÖØ ÓÐ Ó Ü ÑÔÐ ÓÖ ÒØ× ÓÛ ØÓ Ó Ø ×µº



´
µ Ð
ÙÐ Ø Ø À Ù×Ñ Ò Ø ×Ø ×Ø Ø ×Ø
ØÓ Ø ×Ø Ø ÜÓ Ò ØÝ Ó ÈÊÁκ



´ µ
ÓÑÑ ÒØ ÓÒ Ø Ö ×ÙÐØ×









½

Ö ×ØÖ
Ø ÓÒ Ó Ø × ×ÓÖØ × Ò
×× ÖÝ ÓÖ ÒØ
Ø ÓÒº

¾

ÇÚ Ö ×Ô Ö× ÓÒ Ü ×Ø× Û Ò Ø
ÓÒ Ø ÓÒ Ð Ú Ö Ò
× Ö Ø Ö Ø Ò Ø
ÓÒ Ø ÓÒ Ð Ñ Òº Á Ø × × Ø


× ¸ Ø ÈÓ ××ÓÒ ×Ô

Ø ÓÒ × ÒÓØ
ÓÖÖ
غ

À ÈÌ Ê ½







ÆÓÒÐ Ò Ö Ð ×Ø ×ÕÙ Ö × ´ÆÄ˵



Ê Ò × Ú ×ÓÒ Ò Å
à ÒÒÓÒ¸ º ¾

∗ Ò

∗ ÐÐ Òظ º ½









½º ÁÒØÖÓ Ù
Ø ÓÒ Ò Ò Ø ÓÒ

ÆÓÒÐ Ò Ö Ð ×Ø ×ÕÙ Ö × ´ÆÄ˵ × Ñ Ò× Ó ×Ø Ñ Ø Ò Ø Ô Ö Ñ Ø Ö Ó Ø ÑÓ Ð





yt = f (xt , θ 0 ) + εt .



• ÁÒ Ò Ö Ð¸ εt Û ÐÐ Ø ÖÓ×
×Ø
Ò ÙØÓ
ÓÖÖ Ð Ø ¸ Ò ÔÓ×× ÐÝ ÒÓÒÒÓÖ¹



Ñ ÐÐÝ ×ØÖ ÙØ º ÀÓÛ Ú Ö¸ Ð Ò Û Ø Ø × × Ü
ØÐÝ × Ò Ø
× Ó Ð Ò Ö



ÑÓ Ð׸ ×Ó Û ³ÐÐ Ù×Ø ØÖ Ø Ø
× Ö ¸





εt ∼ iid(0, σ 2 )



Á Û ×Ø
Ø Ó × ÖÚ Ø ÓÒ× Ú ÖØ
ÐÐݸ Ò Ò





y = (y1 , y2 , ..., yn )′



f = (f (x1 , θ), f (x1 , θ), ..., f (x1 , θ))′

Ò



ε = (ε1 , ε2 , ..., εn )′

Û
Ò ÛÖ Ø Ø n Ó × ÖÚ Ø ÓÒ× ×





y = f (θ) + ε



Í× Ò Ø × ÒÓØ Ø ÓÒ¸ Ø ÆÄË ×Ø Ñ ØÓÖ
Ò Ò ×



ˆ 1 1

θ ≡ arg min sn (θ) = [y − f (θ)]′ [y − f (θ)] = y − f (θ) 2

Θ n n

• Ì ×Ø Ñ ØÓÖ Ñ Ò Ñ Þ × Ø Û Ø ×ÙÑ Ó ×ÕÙ Ö ÖÖÓÖ׸ Û
× Ø × Ñ



× Ñ Ò Ñ Þ Ò Ø Ù
Ð Ò ×Ø Ò
ØÛ Ò y Ò f (θ).



Ì Ó
Ø Ú ÙÒ
Ø ÓÒ
Ò ÛÖ ØØ Ò ×





1 ′

sn (θ) = y y − 2y′ f (θ) + f (θ)′ f (θ) ,

n

Û
Ú × Ø Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ×





∂ ˆ′ ∂ ˆ′ ˆ

− f (θ) y + f (θ) f (θ) ≡ 0.

∂θ ∂θ

Ò Ø n×K Ñ ØÖ Ü





´ ½µ ˆ ˆ

F(θ) ≡ Dθ′ f (θ).



ÁÒ × ÓÖØ Ò ¸ Ù× ˆ

F Ò ÔÐ
Ó ˆ

F(θ). Í× Ò Ø ×¸ Ø Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ×
Ò ÛÖ ØØ Ò



×

ˆ ˆ ˆ

−F′ y + F′ f (θ) ≡ 0,

¾½¼

¾º Á ÆÌÁ Á ÌÁÇÆ ¾½½







ÓÖ





´ ¾µ ˆ ˆ

F′ y − f (θ) ≡ 0.



Ì × Ö× ÓÓ Ð Ó × Ñ Ð Ö ØÝ ØÓ Ø ºÓº
º ÓÖ Ø Ð Ò Ö ÑÓ Ð ¹ Ø Ö Ú Ø Ú Ó



Ø ÔÖ
Ø ÓÒ × ÓÖØ Ó ÓÒ Ð ØÓ Ø ÔÖ
Ø ÓÒ ÖÖÓÖº Á f (θ) = Xθ, Ø Ò ˆ

F × × ÑÔÐÝ X, ×Ó



Ø ºÓº
º ´Û Ø ×Ô Ö
Ð ÖÖÓÖ×µ × ÑÔÐ Ý ØÓ





X′ y − X′ Xβ = 0,



Ø Ù×Ù Ð ¼ÄË ºÓº
º



Ï
Ò ÒØ ÖÔÖ Ø Ø ÁÆË ÊÌ Ö Û Ò × Ó

× ÓÑ ØÖ
ÐÐÝ ÓÑ ØÖ
Ð Ô
Ø ÓÒ Ó ÇÄË

Ò ÆÄË ´× Ú ×ÓÒ Ò Å
à ÒÒÓÒ¸ Ô ×º ¸½¿ Ò µº

• ÆÓØ Ø Ø Ø ÒÓÒÐ Ò Ö ØÝ Ó Ø Ñ Ò ÓÐ Ð × ØÓ ÔÓØ ÒØ Ð ÑÙÐØ ÔÐ ÐÓ
Ð Ñ Ü¹



Ñ ¸ Ñ Ò Ñ Ò × Ð ÔÓ ÒØ× Ø Ó
Ø Ú ÙÒ
Ø ÓÒ sn (θ) × ÒÓØ Ò
×× Ö ÐÝ



Û Ðй Ú Ò Ñ Ý
ÙÐØ ØÓ Ñ Ò Ñ Þ º







¾º Á ÒØ
Ø ÓÒ

× ÓÖ ¸ ÒØ
Ø ÓÒ
Ò
ÓÒ× Ö
ÓÒ Ø ÓÒ Ð ÓÒ Ø × ÑÔÐ ¸ Ò ×ÝÑÔØÓØ ¹




ÐÐݺ Ì
ÓÒ Ø ÓÒ ÓÖ ×ÝÑÔØÓØ
ÒØ
Ø ÓÒ × Ø Ø sn (θ) Ø Ò ØÓ Ð Ñ Ø Ò ÙÒ
Ø ÓÒ



s∞ (θ) ×Ù
Ø Ø s∞ (θ 0 ) 0]

s = ws∗ .



ÁÒ ÓØ Ö ÛÓÖ ×¸ Û Ó × ÖÚ Û Ø Ö ÓÖ ÒÓØ Ô Ö×ÓÒ × ÛÓÖ Ò º Á Ø Ô Ö×ÓÒ × ÛÓÖ Ò ¸



Û Ó × ÖÚ Ð ÓÖ ×ÙÔÔÐݸ Û
× ÕÙ Ð ØÓ Ð Ø ÒØ Ð

∗

ÓÖ ×ÙÔÔÐݸ s . ÇØ ÖÛ × ¸ s = 0 = s∗ .

ÆÓØ Ø Ø Û Ö Ù× Ò × ÑÔÐ Ý Ò ××ÙÑÔØ ÓÒ Ø Ø Ò Ú Ù Ð×
Ò Ö ÐÝ
ÓÓ× Ø Ö



Û ÐÝ ÓÙÖ× Ó ÛÓÖ º



ËÙÔÔÓ× Û ×Ø Ñ Ø Ø ÑÓ Ð





s∗ = x′ β + Ö × Ù Ð





Ù× Ò ÓÒÐÝ Ó × ÖÚ Ø ÓÒ× ÓÖ Û
s > 0. Ì ÔÖÓ Ð Ñ × Ø Ø Ø × Ó × ÖÚ Ø ÓÒ× Ö Ø Ó×



ÓÖ Û
w∗ > 0, ÓÖ ÕÙ Ú Ð

′

ÒØÐݸ −ε −r′ θ) + η

• Ù× ÙÐ Ö ×ÙÐØ × Ø Ø ÓÖ



z ∼ N (0, 1)

φ(z ∗ )

E(z|z > z ∗ ) = ,

Φ(−z ∗ )

Û Ö φ (·) Ò Φ (·) Ö Ø ×Ø Ò Ö ÒÓÖÑ Ð Ò× ØÝ Ò ×ØÖ ÙØ ÓÒ ÙÒ
Ø ÓÒ¸



Ö ×Ô
Ø Ú Ðݺ Ì ÕÙ ÒØ ØÝ ÓÒ Ø ÊÀË ÓÚ × ÒÓÛÒ × Ø ÒÚ Ö× Å ÐÐ³× Ö Ø Ó

φ(z ∗ )

IM R(z∗ ) =

Φ(−z ∗ )

º ÈÈÄÁ ÌÁÇÆ ÄÁÅÁÌ È Æ ÆÌ Î ÊÁ Ä Ë Æ Ë ÅÈÄ Ë Ä ÌÁÇÆ ¾½







Ï Ø Ø × Û
Ò ÛÖ Ø ´Ñ Ò Ù× Ó Ø
Ø Ø Ø Ø ×Ø Ò Ö ÒÓÖÑ Ð Ò× ØÝ



× ×ÝÑÑ ØÖ
ÓÙØ Þ ÖÓ¸ ×Ó Ø Ø φ(−a) = φ(a)µ

φ (r′ θ)

´ µ s = x′ β + ρσ +η

Φ (r′ θ)

φ(r′ θ) β

´ µ ≡ x′ Φ(r′ θ)

+ η.

ζ

Û Ö ζ = ρσ º Ì ÖÖÓÖ Ø ÖÑ η ×
ÓÒ Ø ÓÒ Ð Ñ Ò Þ ÖÓ¸ Ò × ÙÒ
ÓÖÖ Ð Ø Û Ø Ø

′ φ(r′ θ)

Ö Ö ××ÓÖ× x

Φ(r′ θ) . Ø Ø × ÔÓ Òظ Û
Ò ×Ø Ñ Ø Ø ÕÙ Ø ÓÒ Ý ÆÄ˺



• À
Ñ Ò × ÓÛ ÓÛ ÓÒ
Ò ×Ø Ñ Ø Ø × Ò ØÛÓ ×Ø Ô ÔÖÓ
ÙÖ Û Ö Ö×Ø θ ×



×Ø Ñ Ø ¸Ø Ò ÕÙ Ø ÓÒ × ×Ø Ñ Ø ÝÐ ×Ø ×ÕÙ Ö × Ù× Ò Ø ×Ø Ñ Ø Ú ÐÙ



Ó θ ØÓ ÓÖÑ Ø Ö Ö ××ÓÖ׺ Ì × × Ò
ÒØ Ò ×Ø Ñ Ø ÓÒ Ó Ø
ÓÚ Ö Ò
×



ØÖ
Ý ××Ù º ÁØ × ÔÖÓ ÐÝ × Ö ´ Ò ÑÓÖ
Òص Ù×Ø ØÓ Ó ÅÄ º



• Ì ÑÓ Ð ÔÖ × ÒØ ÓÚ Ô Ò × ×ØÖÓÒ ÐÝ ÓÒ Ó ÒØ ÒÓÖÑ Ð Øݺ Ì Ö Ü ×Ø Ñ ÒÝ



ÐØ ÖÒ Ø Ú ÑÓ Ð× Û
Û Ò Ø Ñ ÒØ Ò ××ÙÑÔØ ÓÒ׺ ÁØ × ÔÓ×× Ð ØÓ



×Ø Ñ Ø
ÓÒ× ×Ø ÒØÐÝ Û Ø ÓÙØ ×ØÖ ÙØ ÓÒ Ð ××ÙÑÔØ ÓÒ׺ Ë Ò Ò ÈÓÛ Ðи



ÂÓÙÖÒ Ð Ó
ÓÒÓÑ ØÖ
׸ ½ º

À ÈÌ Ê ½







ÆÓÒÔ Ö Ñ ØÖ
Ò Ö Ò




½º ÈÓ×× Ð Ô Ø ÐÐ× Ó Ô Ö Ñ ØÖ
Ò Ö Ò
×Ø Ñ Ø ÓÒ

Ê Ò × Àº Ï Ø ´½ ¼µ Í× Ò Ä ×Ø ËÕÙ Ö × ØÓ ÔÔÖÓÜ Ñ Ø ÍÒ ÒÓÛÒ Ê Ö ×¹



× ÓÒ ÙÒ
Ø ÓÒ׸ ÁÒØ ÖÒ Ø ÓÒ Ð
ÓÒÓÑ
Ê Ú Û¸ ÔÔº ½ ¹ ¼º



ÁÒ Ø × ×
Ø ÓÒ Û
ÓÒ× Ö × ÑÔÐ Ü ÑÔÐ ¸ Û
ÐÐÙ×ØÖ Ø × ÓØ Û Ý ÒÓÒÔ Ö Ñ ØÖ




Ñ Ø Ó × Ñ Ý Ò ×ÓÑ
× × ÔÖ ÖÖ ØÓ Ô Ö Ñ ØÖ
Ñ Ø Ó ×º



Ï ×ÙÔÔÓ× Ø Ø Ø × Ò Ö Ø Ý Ö Ò ÓÑ × ÑÔÐ Ò Ó (y, x)¸ Û Ö y = f (x) +ε¸

x × ÙÒ ÓÖÑÐÝ ×ØÖ ÙØ ÓÒ (0, 2π), Ò ε ×
Ð ××
Ð ÖÖÓÖº ËÙÔÔÓ× Ø Ø



3x x 2

f (x) = 1 + −

2π 2π

Ì ÔÖÓ Ð Ñ Ó ÒØ Ö ×Ø × ØÓ ×Ø Ñ Ø Ø Ð ×Ø
ØÝ Ó f (x) Û Ø Ö ×Ô
Ø ØÓ x, Ø ÖÓÙ ÓÙØ



Ø Ö Ò Ó xº

ÁÒ Ò Ö Ð¸ Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ó f (x) × ÙÒ ÒÓÛÒº ÇÒ × ØÓ Ø Ì ÝÐÓÖ³×



× Ö × ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ f (x) ÓÙØ ×ÓÑ ÔÓ ÒØ x0 . Ð Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ× ×Ù
× Ø



ØÖ Ò×
Ò ÒØ Ð ÐÓ Ö Ø Ñ
´Ù×Ù ÐÐÝ ÒÓÛ × Ø ØÖ Ò×ÐÓ µ
Ò ÒØ ÖÔÖ Ø × ×
ÓÒ



ÓÖ Ö Ì ÝÐÓÖ³× × Ö × ÔÔÖÓÜ Ñ Ø ÓÒ׺ Ï ³ÐÐ ÛÓÖ Û Ø Ö×Ø ÓÖ Ö ÔÔÖÓÜ Ñ Ø ÓÒ¸ ÓÖ



× ÑÔÐ
Øݺ ÔÔÖÓÜ Ñ Ø Ò ÓÙØ x0



h(x) = f (x0 ) + Dx f (x0 ) (x − x0 )



Á Ø ÔÔÖÓÜ Ñ Ø ÓÒ ÔÓ ÒØ × x0 = 0, Û
Ò ÛÖ Ø





h(x) = a + bx



Ì
Ó
ÒØa × Ø Ú ÐÙ Ó Ø ÙÒ
Ø ÓÒ Ø x = 0, Ò Ø ×ÐÓÔ × Ø Ú ÐÙ Ó Ø



Ö Ú Ø Ú Ø x = 0. Ì × Ö Ó
ÓÙÖ× ÒÓØ ÒÓÛÒº ÇÒ Ñ Ø ØÖÝ ×Ø Ñ Ø ÓÒ Ý ÓÖ Ò ÖÝ



Ð ×Ø ×ÕÙ Ö ×º Ì Ó
Ø Ú ÙÒ
Ø ÓÒ ×

n

s(a, b) = 1/n (yt − h(xt ))2 .

t=1



Ì Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ¸ ÓÐÐÓÛ Ò Ø Ö ÙÑ ÒØ Û Ù× ØÓ Ø ÕÙ Ø ÓÒ× ¿½ Ò



¿ ×

2π

s∞ (a, b) = (f (x) − h(x))2 dx.

0

Ì Ø ÓÖ Ñ Ö Ö Ò Ø
ÓÒ× ×Ø Ò
Ý Ó ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ× ´Ì ÓÖ Ñ ½ µ Ø ÐÐ× Ù× Ø Ø



a

ˆ Ò ˆ

b Û ÐÐ
ÓÒÚ Ö ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ Ø Ú ÐÙ × Ø Ø Ñ Ò Ñ Þ Ø Ð Ñ Ø Ò Ó
Ø Ú

½

ÙÒ
Ø ÓÒº ËÓÐÚ Ò Ø Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ× Ö Ú Ð× Ø s∞ (a, b) Ó Ø

Ø Ò× Ø× Ñ Ò ÑÙÑ



a0 = 7 0 1 ˆ

Ø

6, b = π . Ì ×Ø Ñ Ø ÔÔÖÓÜ Ñ Ø Ò ÙÒ
Ø ÓÒ h(x) Ø Ö ÓÖ Ø Ò × ÐÑÓ×Ø



×ÙÖ ÐÝ ØÓ







h∞ (x) = 7/6 + x/π




ÓÑÑ Ò Ñ Ü Ñ ¹ ºÑ


½

Ì ÓÐÐÓÛ Ò Ö ×ÙÐØ× Û Ö Ó Ø Ò Ù× Ò Ø ÓÙ
Ò Ø Ø ×ÓÙÖ
Ð

Ø ØØÔ »»Ô Ö ØÓºÙ º ×»Ñ
Ö Ð»
ÓÒÓÑ ØÖ
×» Ü ÑÔÐ ×»ÆÓÒÔ Ö Ñ ØÖ
» ºÑ
º

¾½

½º ÈÇËËÁ Ä ÈÁÌ ÄÄË Ç È Ê Å ÌÊÁ ÁÆ Ê Æ ËÌÁÅ ÌÁÇÆ ¾½









ÙÖ ½º ÌÖÙ Ò × ÑÔÐ ÔÔÖÓÜ Ñ Ø Ò ÙÒ
Ø ÓÒ×

3.5

Fun1

x/%PI+7/6





3









2.5









2









1.5









1

0 1 2 3 4 5 6 7









ÁÒ ÙÖ ½Û × Ø ØÖÙ ÙÒ
Ø ÓÒ Ò Ø Ð Ñ ØÓ Ø ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ × Ø ×ÝÑÔØÓØ




× × ÙÒ
Ø ÓÒ Ó xº

´Ì ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð × Ø ×ØÖ Ø Ð Ò ¸ Ø ØÖÙ ÑÓ Ð ×
ÙÖÚ ØÙÖ ºµ ÆÓØ



Ø Ø Ø ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð × Ò Ò Ö Ð Ò
ÓÒ× ×Ø Òظ Ú Ò Ø Ø ÔÔÖÓÜ Ñ Ø ÓÒ ÔÓ Òغ



Ì × × ÓÛ× Ø Ø Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ× × ÙÔÓÒ Ì ÝÐÓÖ³× × Ö × ÔÔÖÓÜ Ñ Ø ÓÒ× Ó



ÒÓØ Ò Ò Ö Ð Ð ØÓ
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó ÙÒ
Ø ÓÒ׺



Ì ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð × Ñ× ØÓ Ø Ø ØÖÙ ÑÓ Ð ÖÐÝ Û Ðи ×ÝÑÔØÓØ
ÐÐݺ ÀÓÛ¹



Ú Ö¸ Û Ö ÒØ Ö ×Ø Ò Ø Ð ×Ø
ØÝ Ó Ø ÙÒ
Ø ÓÒº Ê
ÐÐ Ø Ø Ò Ð ×Ø
ØÝ × Ø



Ñ Ö Ò Ð ÙÒ
Ø ÓÒ Ú Ý Ø Ú Ö ÙÒ
Ø ÓÒ





ε(x) = xφ′ (x)/φ(x)



ÓÓ ÔÔÖÓÜ Ñ Ø ÓÒ Ó Ø Ð ×Ø
ØÝ ÓÚ Ö Ø Ö Ò Ó x Û ÐÐ Ö ÕÙ Ö ÓÓ ÔÔÖÓÜ Ñ Ø ÓÒ



Ó ÓØ f (x) Ò f ′ (x) ÓÚ Ö Ø Ö Ò Ó x. Ì ÔÔÖÓÜ Ñ Ø Ò Ð ×Ø
ØÝ ×





η(x) = xh′ (x)/h(x)



ÁÒ ÙÖ ¾ Û × Ø ØÖÙ Ð ×Ø
ØÝ Ò Ø Ð ×Ø
ØÝ Ó Ø Ò ÖÓÑ Ø Ð Ñ Ø Ò ÔÔÖÓܹ



Ñ Ø Ò ÑÓ Ðº



Ì ØÖÙ Ð ×Ø
ØÝ × Ø Ð Ò Ø Ø × Ò Ø Ú ×ÐÓÔ ÓÖ Ð Ö x. Î ×Ù ÐÐÝ Û × Ø Ø



Ø Ð ×Ø
ØÝ × ÒÓØ ÔÔÖÓÜ Ñ Ø ×Ó Û Ðк ÊÓÓØ Ñ Ò ×ÕÙ Ö ÖÖÓÖ Ò Ø ÔÔÖÓÜ Ñ Ø ÓÒ



Ó Ø Ð ×Ø
ØÝ ×

2π 1/2

2

(ε(x) − η(x)) dx = . 31546

0

ÆÓÛ ×ÙÔÔÓ× Û Ù× Ø Ð Ò Ø ÖÑ× Ó ØÖ ÓÒÓÑ ØÖ
× Ö × × Ø ÔÔÖÓÜ Ñ Ø Ò



ÑÓ Ðº Ì Ö ×ÓÒ ÓÖ Ù× Ò ØÖ ÓÒÓÑ ØÖ
× Ö × × Ò ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð × ÑÓØ Ú Ø



Ý Ø ×ÝÑÔØÓØ
ÔÖÓÔ ÖØ × Ó Ø ÓÙÖ Ö Ü Ð ÙÒ
Ø ÓÒ Ð ÓÖÑ ´ ÐÐ Òظ ½ ½¸ ½ ¾µ¸



Û
Û Û ÐÐ ×ØÙ Ý Ò ÑÓÖ Ø Ð ÐÓÛº ÆÓÖÑ ÐÐÝ Û Ø Ø × ØÝÔ Ó ÑÓ Ð Ø ÒÙÑ Ö



Ó × × ÙÒ
Ø ÓÒ× × Ò Ò
Ö × Ò ÙÒ
Ø ÓÒ Ó Ø × ÑÔÐ × Þ º À Ö Û ÓÐ Ø × Ø Ó



× × ÙÒ
Ø ÓÒ Ü º Ï Û ÐÐ
ÓÒ× Ö Ø ×ÝÑÔØÓØ
Ú ÓÖ Ó Ü ÑÓ Ð¸ Û
Û



ÒØ ÖÔÖ Ø × Ò ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ Ø ×Ø Ñ ØÓÖ³× Ú ÓÖ Ò Ò Ø × ÑÔР׺ ÓÒ× Ö Ø



× Ø Ó × × ÙÒ
Ø ÓÒ×

½º ÈÇËËÁ Ä ÈÁÌ ÄÄË Ç È Ê Å ÌÊÁ ÁÆ Ê Æ ËÌÁÅ ÌÁÇÆ ¾¾¼









ÙÖ ¾º ÌÖÙ Ò ÔÔÖÓÜ Ñ Ø Ò Ð ×Ø
Ø ×

0.7

Fun1

x/(%PI*(x/%PI+7/6))



0.6







0.5







0.4







0.3







0.2







0.1







0

0 1 2 3 4 5 6 7









ÙÖ ¿º ÌÖÙ ÙÒ
Ø ÓÒ Ò ÑÓÖ Ü Ð ÔÔÖÓÜ Ñ Ø ÓÒ

3.5

Fun1

Fun2





3









2.5









2









1.5









1

0 1 2 3 4 5 6 7









Z(x) = 1 x cos(x) sin(x) cos(2x) sin(2x) .

Ì ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð ×



gK (x) = Z(x)α.

Å ÒØ Ò Ò Ø × × × ÙÒ
Ø ÓÒ× × Ø × ÑÔÐ × Þ Ò
Ö × ×¸ Û Ò Ø Ø Ø Ð Ñ Ø Ò



Ó
Ø Ú ÙÒ
Ø ÓÒ × Ñ Ò Ñ Þ Ø



7 1 1 1

a1 = , a2 = , a3 = − 2 , a4 = 0, a5 = − 2 , a6 = 0 .

6 π π 4π

ËÙ ×Ø ØÙØ Ò Ø × Ú ÐÙ × ÒØÓ gK (x) Û Ó Ø Ò Ø ÐÑÓ×Ø ×ÙÖ Ð Ñ Ø Ó Ø ÔÔÖÓÜ Ñ Ø ÓÒ



1 1

´ µ g∞ (x) = 7/6 + x/π + (cos x) − + (sin x) 0 + (cos 2x) − + (sin 2x) 0

π2 4π 2

ÁÒ ÙÖ ¿ Û Ú Ø ÔÔÖÓÜ Ñ Ø ÓÒ Ò Ø ØÖÙ ÙÒ
Ø ÓÒ Ð ÖÐÝ Ø ØÖÙÒ
Ø



ØÖ ÓÒÓÑ ØÖ
× Ö × ÑÓ Ð Ó Ö× ØØ Ö ÔÔÖÓÜ Ñ Ø ÓÒ¸ ×ÝÑÔØÓØ
ÐÐݸ Ø Ò Ó × Ø



Ð Ò Ö ÑÓ Ðº ÁÒ ÙÖ Û Ú Ø ÑÓÖ Ü Ð ÔÔÖÓÜ Ñ Ø ÓÒ³× Ð ×Ø
ØÝ Ò Ø Ø Ó



Ø ØÖÙ ÙÒ
Ø ÓÒ ÇÒ Ú Ö ¸ Ø Ø × ØØ Ö¸ Ø ÓÙ Ø Ö × ×ÓÑ ÑÔÐ Ù× Ð Û ÚÝÒ ××

¾º ÈÇËËÁ Ä ÈÁÌ ÄÄË Ç È Ê Å ÌÊÁ ÁÆ Ê Æ À ÈÇÌÀ ËÁË Ì ËÌÁÆ ¾¾½









ÙÖ º ÌÖÙ Ð ×Ø
ØÝ Ò ÑÓÖ Ü Ð ÔÔÖÓÜ Ñ Ø ÓÒ

0.7

Fun1

Fun2



0.6







0.5







0.4







0.3







0.2







0.1







0

0 1 2 3 4 5 6 7









Ò Ø ×Ø Ñ Ø º ÊÓÓØ Ñ Ò ×ÕÙ Ö ÖÖÓÖ Ò Ø ÔÔÖÓÜ Ñ Ø ÓÒ Ó Ø Ð ×Ø
ØÝ ×



2 1/2

2π

g′ (x)x

ε(x) − ∞ dx = . 16213,

0 g∞ (x)

ÓÙØ Ð Ø Ø Ó Ø ÊÅË Û Ò Ø Ö×Ø ÓÖ Ö ÔÔÖÓÜ Ñ Ø ÓÒ × Ù× º Á Ø ØÖ ÓÒÓ¹



Ñ ØÖ
× Ö ×
ÓÒØ Ò Ò Ò Ø Ø ÖÑ׸ Ø × ÖÖÓÖ Ñ ×ÙÖ ÛÓÙÐ Ö Ú Ò ØÓ Þ ÖÓ¸ × Û



× ÐÐ × º







¾º ÈÓ×× Ð Ô Ø ÐÐ× Ó Ô Ö Ñ ØÖ
Ò Ö Ò
ÝÔÓØ × × Ø ×Ø Ò

Ï Ø ÓÛ Ñ Ò ÝØ Ø ÖÑ ÒÓÒÔ Ö Ñ ØÖ
Ò Ö Ò
Ë ÑÔÐݸ Ø ×Ñ Ò× Ò Ö Ò
×



Ø Ø Ö ÔÓ×× Ð Û Ø ÓÙØ Ö ×ØÖ
Ø Ò Ø ÙÒ
Ø ÓÒ× Ó ÒØ Ö ×Ø ØÓ ÐÓÒ ØÓ Ô Ö Ñ ØÖ




Ñ Ðݺ



• ÓÒ× Ö Ñ Ò× Ó Ø ×Ø Ò ÓÖ Ø ÝÔÓØ × × Ø Ø
ÓÒ×ÙÑ Ö× Ñ Ü Ñ Þ ÙØ Ð Øݺ




ÓÒ× ÕÙ Ò
Ó ÙØ Ð ØÝ Ñ Ü Ñ Þ Ø ÓÒ × Ø Ø Ø

2

ËÐÙØ× Ý Ñ ØÖ Ü Dp h(p, U )¸ Û Ö



h(p, U ) Ö Ø × Ø Ó
ÓÑÔ Ò× Ø Ñ Ò ÙÒ
Ø ÓÒ׸ ÑÙ×Ø Ò Ø Ú × Ñ ¹



Ò Ø º ÇÒ ÔÔÖÓ
ØÓ Ø ×Ø Ò ÓÖ ÙØ Ð ØÝ Ñ Ü Ñ Þ Ø ÓÒ ÛÓÙÐ ×Ø Ñ Ø × Ø



Ó ÒÓÖÑ Ð Ñ Ò ÙÒ
Ø ÓÒ× x(p, m)º

• ×Ø Ñ Ø ÓÒ Ó Ø × ÙÒ
Ø ÓÒ× Ý ÒÓÖÑ Ð Ô Ö Ñ ØÖ
Ñ Ø Ó × Ö ÕÙ Ö × ×Ô

Ø ÓÒ



Ó Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ó Ñ Ò ¸ ÓÖ Ü ÑÔÐ





x(p, m) = x(p, m, θ 0 ) + ε, θ 0 ∈ Θ0 ,



Û Ö x(p, m, θ 0 ) × ÙÒ
Ø ÓÒ Ó ÒÓÛÒ ÓÖÑ Ò Θ0 × Ò Ø Ñ Ò× ÓÒ Ð



Ô Ö Ñ Ø Öº



• Ø Ö ×Ø Ñ Ø ÓÒ¸ Û
ÓÙÐ Ù× ˆ ˆ

x = x(p, m, θ) ØÓ
Ð
ÙÐ Ø ´ Ý ×ÓÐÚ Ò Ø ÒØ ¹



Ö Ð ØÝ ÔÖÓ Ð Ñ¸ Û
×

2 h(p, U ).

ÒÓÒ¹ØÖ Ú Ðµ Dp Á Û
Ò ×Ø Ø ×Ø
ÐÐÝ Ö
Ø



Ø Ø Ø Ñ ØÖ Ü × Ò Ø Ú × Ñ ¹ Ò Ø ¸ Û Ñ Ø
ÓÒ
ÐÙ Ø Ø
ÓÒ×ÙÑ Ö× ÓÒ³Ø



Ñ Ü Ñ Þ ÙØ Ð Øݺ



• Ì ÔÖÓ Ð Ñ Û Ø Ø × ×Ø ØØ Ö ×ÓÒ ÓÖ Ö
Ø ÓÒ Ó Ø Ø ÓÖ Ø
Ð ÔÖÓÔÓ× Ø ÓÒ



Ñ Ý Ø Ø ÓÙÖ
Ó
Ó ÙÒ
Ø ÓÒ Ð ÓÖÑ × Ò
ÓÖÖ
غ ÁÒ Ø ÒØÖÓ Ù
ØÓÖÝ ×
Ø ÓÒ



Û × Û Ø Ø ÙÒ
Ø ÓÒ Ð ÓÖÑ Ñ ××Ô

Ø ÓÒ Ð × ØÓ Ò
ÓÒ× ×Ø ÒØ ×Ø Ñ Ø ÓÒ Ó



Ø ÙÒ
Ø ÓÒ Ò Ø× Ö Ú Ø Ú ×º

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾¾







• Ì ×Ø Ò Ù× Ò Ô Ö Ñ ØÖ
ÑÓ Ð× ÐÛ Ý× Ñ Ò× Û Ö Ø ×Ø Ò
ÓÑÔÓÙÒ Ý¹



ÔÓØ × ×º Ì ÝÔÓØ × × Ø Ø × Ø ×Ø × ½µ Ø
ÓÒÓÑ
ÔÖÓÔÓ× Ø ÓÒ Û Û × ØÓ



Ø ×ظ Ò ¾µ Ø ÑÓ Ð ×
ÓÖÖ
ØÐÝ ×Ô
º ÐÙÖ Ó Ø Ö ½µ ÓÖ ¾µ
Ò Ð ØÓ



Ö
Ø ÓÒº Ì × × ÒÓÛÒ × Ø ÑÓ Ð¹ Ò Ù
Ù Ñ ÒØ Ò ÝÔÓØ × ×º



• Î Ö Ò³× Ï ÊÈ ÐÐÓÛ× ÓÒ ØÓ Ø ×Ø ÓÖ ÙØ Ð ØÝ Ñ Ü Ñ Þ Ø ÓÒ Û Ø ÓÙØ ×Ô
Ý Ò Ø



ÓÖÑ Ó Ø Ñ Ò ÙÒ
Ø ÓÒ׺ Ì ÓÒÐÝ ××ÙÑÔØ ÓÒ× Ù× Ò Ø Ø ×Ø Ö Ø Ó×



Ö
ØÐÝ ÑÔÐ Ý Ø ÓÖݸ ×Ó Ö
Ø ÓÒ Ó Ø ÝÔÓØ × ×
ÐÐ× ÒØÓ ÕÙ ×Ø ÓÒ Ø



Ø ÓÖݺ



• ÆÓÒÔ Ö Ñ ØÖ
Ò Ö Ò
ÐÐÓÛ× Ö
Ø Ø ×Ø Ò Ó
ÓÒÓÑ
ÔÖÓÔÓ× Ø ÓÒ׸ Û Ø ÓÙØ



Ø ÑÓ Ð¹ Ò Ù
Ù Ñ ÒØ Ò ÝÔÓØ × × º









¿º Ì ÓÙÖ Ö ÙÒ
Ø ÓÒ Ð ÓÖÑ

Ê Ò × ÐÐ Òظ ½ ¸ Á ÒØ
Ø ÓÒ Ò
ÓÒ× ×Ø Ò
Ý Ò × Ñ ¹ÒÓÒÔ Ö Ñ ØÖ
Ö ¹



Ö ×× ÓÒ¸ Ò Ú Ò
× Ò
ÓÒÓÑ ØÖ
׸ Ø ÏÓÖÐ ÓÒ Ö ×׸ κ ½¸ ÌÖÙÑ Ò ÛРݸ º¸



Ñ Ö º





• ËÙÔÔÓ× Û Ú ÑÙÐØ Ú Ö Ø ÑÓ Ð





y = f (x) + ε,



Û Ö f (x) × Ó ÙÒ ÒÓÛÒ ÓÖÑ Ò x × P− Ñ Ò× ÓÒ Ð Ú
ØÓÖº ÓÖ × ÑÔÐ
Øݸ



××ÙÑ Ø Ø ε ×
Ð ××
Ð ÖÖÓÖº Ä Ø Ù× Ø Ø ×Ø Ñ Ø ÓÒ Ó Ø Ú
ØÓÖ Ó



Ð ×Ø
Ø × Û Ø ØÝÔ
Ð Ð Ñ ÒØ



xi ∂f (x)

ξx i = ,

f (x) ∂xi f (x)

Ø Ò Ö ØÖ ÖÝ ÔÓ ÒØ xi .



Ì ÓÙÖ Ö ÓÖѸ ÓÐÐÓÛ Ò ÐÐ ÒØ ´½ ¾µ¸ ÙØ Û Ø ×ÓÑ Û Ø Ö ÒØ Ô Ö Ñ Ø Ö Þ ¹



Ø ÓÒ¸ Ñ Ý ÛÖ ØØ Ò ×







A J

′ ′

´ µ gK (x | θK ) = α + x β + 1/2x Cx + ujα cos(jk′ x) − vjα sin(jk′ x) .

α α

α=1 j=1



Û Ö Ø K¹ Ñ Ò× ÓÒ Ð Ô Ö Ñ Ø Ö Ú
ØÓÖ





´ µ θK = {α, β ′ , vec∗ (C)′ , u11 , v11 , . . . , uJA , vJA }′ .



• Ï ××ÙÑ Ø Ø Ø
ÓÒ Ø ÓÒ Ò Ú Ö Ð × x Ú
Ò ØÖ Ò× ÓÖÑ ØÓ Ð



Ò Ò ÒØ ÖÚ Ð Ø Ø × × ÓÖØ Ö Ø Ò 2π. Ì × × Ö ÕÙ Ö ØÓ ÚÓ Ô Ö Ó
Ú ÓÖ



Ó Ø ÔÔÖÓÜ Ñ Ø ÓÒ¸ Û
× × Ö Ð × Ò

ÓÒÓÑ
ÙÒ
Ø ÓÒ× Ö Ò³Ø Ô Ö Ó
º



ÓÖ Ü ÑÔÐ ¸ ×Ù ØÖ
Ø × ÑÔÐ Ñ Ò׸ Ú Ý Ø Ñ Ü Ñ Ó Ø
ÓÒ Ø ÓÒ Ò



Ú Ö Ð ×¸ Ò ÑÙÐØ ÔÐÝ Ý 2π − eps, Û Ö eps × ×ÓÑ ÔÓ× Ø Ú ÒÙÑ Ö Ð ×× Ø Ò



2π Ò Ú ÐÙ º



• Ì kα Ö Ð Ñ ÒØ ÖÝ ÑÙÐØ ¹ Ò
× Û
Ö P−

× ÑÔÐÝ Ú
ØÓÖ× ÓÖÑ Ó



ÒØ Ö× ´Ò Ø Ú ¸ ÔÓ× Ø Ú Ò Þ ÖÓµº Ì kα ¸ α = 1, 2, ..., A Ö Ö ÕÙ Ö ØÓ



Ð Ò ÖÐÝ Ò Ô Ò Òظ Ò Û ÓÐÐÓÛ Ø
ÓÒÚ ÒØ ÓÒ Ø Ø Ø Ö×Ø ÒÓÒ¹Þ ÖÓ Ð Ñ ÒØ



ÔÓ× Ø Ú º ÓÖ Ü ÑÔÐ

′

0 1 −1 0 1

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾¿







× ÔÓØ ÒØ Ð ÑÙÐØ ¹ Ò Ü ØÓ Ù× ¸ ÙØ

′

0 −1 −1 0 1



× ÒÓØ × Ò
Ø× Ö×Ø ÒÓÒÞ ÖÓ Ð Ñ ÒØ × Ò Ø Ú º ÆÓÖ ×

′

0 2 −2 0 2



ÑÙÐØ ¹ Ò Ü Û ÛÓÙÐ Ù× ¸ × Ò
Ø × ×
Ð Ö ÑÙÐØ ÔÐ Ó Ø ÓÖ Ò Ð ÑÙÐØ ¹ Ò Üº



• Ï Ô Ö Ñ Ø Ö Þ Ø Ñ ØÖ Ü C Ö ÒØÐÝ Ø Ò Ó × ÐÐ ÒØ
Ù× Ø × ÑÔÐ ×



Ø Ò × Ò ÔÖ
Ø
º Ì
Ó×Ø Ó Ø × ×Ø ØÛ Ö ÒÓ ÐÓÒ Ö Ð ØÓ Ø ×Ø ÕÙ Ö Ø




×Ô

Ø ÓÒ Ù× Ò Ò ×Ø Ø ×Ø Ò º





Ì Ú
ØÓÖ Ó Ö×Ø Ô ÖØ Ð Ö Ú Ø Ú × ×







A J

´ ¼µ Dx gK (x | θK ) = β + Cx + −ujα sin(jk′ x) − vjα cos(jk′ x) jkα

α α

α=1 j=1



Ò Ø Ñ ØÖ Ü Ó ×
ÓÒ Ô ÖØ Ð Ö Ú Ø Ú × ×







A J

2

´ ½µ Dx gK (x|θK ) = C + −ujα cos(jk′ x) + vjα sin(jk′ x) j 2 kα k′

α α α

α=1 j=1



ÌÓ Ò
ÓÑÔ
Ø ÒÓØ Ø ÓÒ ÓÖ Ô ÖØ Ð Ö Ú Ø Ú ×¸ Ð Ø λ Ò N¹ Ñ Ò× ÓÒ Ð ÑÙÐØ ¹



Ò Ü Û Ø ÒÓ Ò Ø Ú Ð Ñ ÒØ׺ Ò |λ |∗ × Ø ×ÙÑ Ó Ø Ð Ñ ÒØ× Ó λº Á Û Ú



N Ö ÙÑ ÒØ× x Ó Ø ´ Ö ØÖ Öݵ ÙÒ
Ø ÓÒ h(x)¸ Ù× D λ h(x) ØÓ Ò
Ø
ÖØ Ò Ô ÖØ Ð



Ö Ú Ø Ú

∗

∂ |λ|

Dλ h(x) ≡ h(x)

∂xλ1 ∂xλ2 · · · ∂xλN

1 2 N

Ï Ò λ ×Ø Þ ÖÓ Ú
ØÓÖ¸ D λ h(x) ≡ h(x)º Ì Ò Ø × Ò Ø ÓÒ Ò Ø Ð ×Ø Û ÕÙ Ø ÓÒ×



ÒØÓ

ÓÙÒظ Û × Ø Ø Ø × ÔÓ×× Ð ØÓ Ò (1 × K) λ

Ú
ØÓÖ Z (x) ×Ó Ø Ø





´ ¾µ D λ gK (x|θK ) = zλ (x)′ θK .



• ÓØ Ø ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð Ò Ø Ö Ú Ø Ú × Ó Ø ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð



Ö Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö׺



• ÓÖ Ø ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð ØÓ Ø ÙÒ
Ø ÓÒ ´ÒÓØ Ö Ú Ø Ú ×µ¸ ÛÖ Ø gK (x|θK ) =

z′ θ K ÓÖ × ÑÔÐ
Øݺ





Ì ÓÐÐÓÛ Ò Ø ÓÖ Ñ
Ò Ù× ØÓ ÔÖÓÚ Ø
ÓÒ× ×Ø Ò
Ý Ó Ø ÓÙÖ Ö ÓÖѺ







Ì ÓÖ Ñ ¾ º ÐÐ ÒØ Ò ÆÝ
¸ ½ ℄ ËÙÔÔÓ× Ø Ø ˆn

h × Ó Ø Ò Ý Ñ Ü Ñ Þ Ò



× ÑÔÐ Ó
Ø Ú ÙÒ
Ø ÓÒ sn (h) ÓÚ Ö HK n Û Ö HK × ×Ù × Ø Ó ×ÓÑ ÙÒ
Ø ÓÒ ×Ô




H ÓÒ Û
× Ò ÒÓÖÑ h º ÓÒ× Ö Ø ÓÐÐÓÛ Ò
ÓÒ Ø ÓÒ×



´ µ ÓÑÔ
ØÒ ×× Ì
ÐÓ×ÙÖ Ó H Û Ø Ö ×Ô
Ø ØÓ h ×
ÓÑÔ
Ø Ò Ø Ö Ð Ø Ú



ØÓÔÓÐÓ Ý Ò h º Ý



´ µ Ò× Ò ×× ∪K HK ¸ K = 1, 2, 3, ... × Ò× ×Ù × Ø Ó Ø
ÐÓ×ÙÖ Ó HÛØ Ö ×Ô
Ø



ØÓ h Ò HK ⊂ HK+1 º



´
µ ÍÒ ÓÖÑ
ÓÒÚ Ö Ò
Ì Ö × ÔÓ ÒØ h∗ Ò H Ò Ø Ö × ÙÒ
Ø ÓÒ s∞ (h, h∗ )

Ø Ø ×
ÓÒØ ÒÙÓÙ× Ò h Û Ø Ö ×Ô
Ø ØÓ h ×Ù
Ø Ø





lim sup | sn (h) − s∞ (h, h∗ ) |= 0

n→∞

H

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾







ÐÑÓ×Ø ×ÙÖ Ðݺ



´ µ Á ÒØ
Ø ÓÒ ÒÝ ÔÓ ÒØ h Ò Ø
ÐÓ×ÙÖ Ó H Û Ø s∞ (h, h∗ ) ≥ s∞ (h∗ , h∗ ) ÑÙ×Ø



Ú h− h∗ = 0º

ÍÒ ÖØ ×
ÓÒ Ø ÓÒ× limn→∞ ˆ

h∗ −hn = 0 ÐÑÓ×Ø ×ÙÖ Ðݸ ÔÖÓÚ Ø Ø limn→∞ Kn =

∞ ÐÑÓ×Ø ×ÙÖ Ðݺ





Ì ÑÓ
Ø ÓÒ Ó Ø ÓÖ Ò Ð ×Ø Ø Ñ ÒØ Ó Ø Ø ÓÖ Ñ Ø Ø × Ò Ñ × ØÓ × Ø



Ø Ô Ö Ñ Ø Ö ×Ô
Θ Ò ÐÐ ÒØ Ò ÆÝ
³× ´½ µ Ì ÓÖ Ñ ¼ ØÓ × Ò Ð ÔÓ ÒØ Ò ØÓ



×Ø Ø Ø Ø ÓÖ Ñ Ò Ø ÖÑ× Ó Ñ Ü Ñ Þ Ø ÓÒ Ö Ø Ö Ø Ò Ñ Ò Ñ Þ Ø ÓÒº



Ì × Ø ÓÖ Ñ × Ú ÖÝ × Ñ Ð Ö Ò ÓÖÑ ØÓ Ì ÓÖ Ñ ½ º Ì Ñ Ò Ö Ò
× Ö



´½µ Ò Ö
ÒÓÖÑ h × Ù× Ò ÔÐ
Ó Ø Ù
Ð Ò ÒÓÖѺ Ì × ÒÓÖÑ Ñ Ý



×ØÖÓÒ Ö Ø Ò Ø Ù
Ð Ò ÒÓÖѸ ×Ó Ø Ø
ÓÒÚ Ö Ò
Û Ø Ö ×Ô
Ø ØÓ h

ÑÔÐ ×
ÓÒÚ Ö Ò
ÛºÖºØ Ø Ù
Ð Ò ÒÓÖѺ ÌÝÔ
ÐÐÝ Û Û ÐÐ Û ÒØ ØÓ Ñ



×ÙÖ Ø Ø Ø ÒÓÖÑ × ×ØÖÓÒ ÒÓÙ ØÓ ÑÔÐÝ
ÓÒÚ Ö Ò
Ó ÐÐ ÙÒ
Ø ÓÒ× Ó



ÒØ Ö ×غ



´¾µ Ì ×Ø Ñ Ø ÓÒ ×Ô
H × ÙÒ
Ø ÓÒ ×Ô
º ÁØ ÔÐ Ý× Ø ÖÓÐ Ó Ø Ô Ö Ñ Ø Ö



×Ô
Θ Ò ÓÙÖ ×
Ù×× ÓÒ Ó Ô Ö Ñ ØÖ
×Ø Ñ ØÓÖ׺ Ì Ö × ÒÓ Ö ×ØÖ
Ø ÓÒ ØÓ



Ô Ö Ñ ØÖ
Ñ Ðݸ ÓÒÐÝ Ö ×ØÖ
Ø ÓÒ ØÓ ×Ô
Ó ÙÒ
Ø ÓÒ× Ø Ø × Ø × Ý
ÖØ Ò




ÓÒ Ø ÓÒ׺ Ì × ÓÖÑÙÐ Ø ÓÒ × ÑÙ
Ð ×× Ö ×ØÖ
Ø Ú Ø Ò Ø Ö ×ØÖ
Ø ÓÒ ØÓ



Ô Ö Ñ ØÖ
Ñ Ðݺ



´¿µ Ì Ö × Ò× Ò ×× ××ÙÑÔØ ÓÒ Ø Ø Û × ÒÓØ ÔÖ × ÒØ Ò Ø ÓØ Ö Ø ÓÖ Ñº



Ï Û ÐÐ ÒÓØ ÔÖÓÚ Ø × Ø ÓÖ Ñ ´Ø ÔÖÓÓ × ÕÙ Ø × Ñ Ð Ö ØÓ Ø ÔÖÓÓ Ó Ø ÓÖ Ñ ½ ℄¸ ×



ÐÐ Òظ ½ µ ÙØ Û Û ÐÐ ×
Ù×× Ø× ××ÙÑÔØ ÓÒ׸ Ò Ö Ð Ø ÓÒ ØÓ Ø ÓÙÖ Ö ÓÖÑ × Ø



ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ðº





¿º½º ËÓ ÓÐ Ú ÒÓÖѺ Ë Ò
ÐÐ Ó Ø ××ÙÑÔØ ÓÒ× ÒÚÓÐÚ Ø ÒÓÖÑ h ¸ Û Ò



ØÓ Ñ ÜÔÐ
Ø Û Ø ÒÓÖÑ Û Û × ØÓ Ù× º Ï Ò ÒÓÖÑ Ø Ø Ù Ö ÒØ × Ø Ø Ø



ÖÖÓÖ× Ò ÔÔÖÓÜ Ñ Ø ÓÒ Ó Ø ÙÒ
Ø ÓÒ× Û Ö ÒØ Ö ×Ø Ò Ö

ÓÙÒØ ÓÖº Ë Ò
Û



Ö ÒØ Ö ×Ø Ò Ö×عÓÖ Ö Ð ×Ø
Ø × Ò Ø ÔÖ × ÒØ
× ¸ Û Ò
ÐÓ× ÔÔÖÓÜ Ñ Ø ÓÒ Ó



ÓØ Ø ÙÒ
Ø ÓÒ f (x) Ò Ø× Ö×Ø Ö Ú Ø Ú f ′ (x), Ø ÖÓÙ ÓÙØ Ø Ö Ò Ó x. Ä Ø X

Ò ÓÔ Ò × Ø Ø Ø
ÓÒØ Ò× ÐÐ Ú ÐÙ × Ó x Ø Ø Û ³Ö ÒØ Ö ×Ø Òº Ì ËÓ ÓÐ Ú ÒÓÖÑ ×



ÔÔÖÓÔÖ Ø Ò Ø ×
× º ÁØ × Ò ¸ Ñ Ò Ù× Ó ÓÙÖ ÒÓØ Ø ÓÒ ÓÖ Ô ÖØ Ð Ö Ú Ø Ú ×¸



×



h m,X = max sup D λ h(x)

|λ∗ |≤m X

ÌÓ × Û Ø Ö ÓÖ ÒÓØ Ø ÙÒ
Ø ÓÒ f (x) × Û ÐÐ ÔÔÖÓÜ Ñ Ø Ý Ò ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð



gK (x | θK )¸ Û ÛÓÙÐ Ú ÐÙ Ø







f (x) − gK (x | θK ) m,X .

Ï × Ø Ø Ø × ÒÓÖÑ Ø × ÒØÓ

ÓÙÒØ ÖÖÓÖ× Ò ÔÔÖÓÜ Ñ Ø Ò Ø ÙÒ
Ø ÓÒ Ò Ô ÖØ Ð



Ö Ú Ø Ú × ÙÔ ØÓ ÓÖ Ö m. Á Û Û ÒØ ØÓ ×Ø Ñ Ø Ö×Ø ÓÖ Ö Ð ×Ø
Ø ×¸ × × Ø
× Ò



Ø × Ü ÑÔÐ ¸ Ø Ö Ð Ú ÒØ m ÛÓÙÐ m = 1. ÙÖØ ÖÑÓÖ ¸ × Ò
Û Ü Ñ Ò Ø sup

ÓÚ Ö X,
ÓÒÚ Ö Ò
ۺֺغ Ø ËÓ ÓÐ Ú Ñ Ò× ÙÒ ÓÖÑ
ÓÒÚ Ö Ò
¸ ×Ó Ø Ø Û Ó Ø Ò




ÓÒ× ×Ø ÒØ ×Ø Ñ Ø × ÓÖ ÐÐ Ú ÐÙ × Ó x.



¿º¾º ÓÑÔ
ØÒ ×׺ Î Ö Ý Ò
ÓÑÔ
ØÒ ×× Û Ø Ö ×Ô
Ø ØÓ Ø × ÒÓÖÑ × ÕÙ Ø Ø
Ò ¹




Ð Ò ÙÒ ÒÐ Ø Ò Ò º ÁØ × ÔÖÓÚ Ò Ý Ð Û ¸ ÐÐ ÒØ Ò ËÓÙÞ ¸
ÓÒÓÑ ØÖ
¸ ½ ¿º



Ì ×
Ö ÕÙ Ö Ñ ÒØ × Ø Ø Û Ò
ÓÒ× ×Ø Ò
Ý ÛºÖºØº h m,X , Ø Ò Ø ÙÒ
Ø ÓÒ×

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾







Ó ÒØ Ö ×Ø ÑÙ×Ø ÐÓÒ ØÓ ËÓ ÓÐ Ú ×Ô
Û
Ø × ÒØÓ

ÓÙÒØ Ö Ú Ø Ú × Ó ÓÖ Ö



m + 1º ËÓ ÓÐ Ú ×Ô
× Ø × Ø Ó ÙÒ
Ø ÓÒ×





Wm,X (D) = {h(x) : h(x) m,X K, Ø × Ô Ö Ñ Ø Ö × ×Ø Ñ Ð º ÆÓØ Ø Ø Ø ØÖÙ ÙÒ
Ø ÓÒ h∗ ×



ÒÓØ Ò
×× Ö ÐÝ Ò Ð Ñ ÒØ Ó HK , ×Ó ÓÔØ Ñ Þ Ø ÓÒ ÓÚ Ö HK Ñ Ý ÒÓØ Ð ØÓ
ÓÒ× ×Ø ÒØ



×Ø Ñ ØÓÖº ÁÒ ÓÖ Ö ÓÖ ÓÔØ Ñ Þ Ø ÓÒ ÓÚ Ö HK ØÓ ÕÙ Ú Ð ÒØ ØÓ ÓÔØ Ñ Þ Ø ÓÒ ÓÚ Ö H, Ø



Ð ×Ø ×ÝÑÔØÓØ
ÐÐݸ Û Ò Ø Ø



´½µ Ì Ñ Ò× ÓÒ Ó Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ¸ dim θKn → ∞ × n → ∞. Ì × ×
Ú



Ý Ñ Ò A Ò J Ò ÕÙ Ø ÓÒ Ò
Ö × Ò ÙÒ
Ø ÓÒ× Ó n, Ø × ÑÔÐ × Þ º ÁØ



×
Ð Ö Ø Ø K Û ÐÐ Ú ØÓ ÖÓÛ ÑÓÖ ×ÐÓÛÐÝ Ø Ò nº Ì ×
ÓÒ Ö ÕÙ Ö Ñ ÒØ ×



´¾µ Ï Ò Ø Ø Ø HK Ò× ×Ù × Ø× Ó H.

Ì ×Ø Ñ Ø ÓÒ ×Ù ×Ô
HK ¸ Ò ÓÚ ¸ × ×Ù × Ø Ó Ø
ÐÓ×ÙÖ Ó Ø ×Ø Ñ Ø ÓÒ



×Ô
¸ H º × Ø Ó ×Ù × Ø× Aa Ó × Ø A × Ò× Ø
ÐÓ×ÙÖ Ó Ø
ÓÙÒØ Ð ÙÒ ÓÒ



Ó Ø ×Ù × Ø× × ÕÙ Ð ØÓ Ø
ÐÓ×ÙÖ Ó A



∪∞ Aa = A

a=1



Í× Ô
ØÙÖ Ö º Ì Ö ×Ø Ó Ø ×
Ù×× ÓÒ Ó Ò× Ò ×× × ÔÖÓÚ Ù×Ø ÓÖ
ÓÑÔÐ Ø Ò ××

Ø Ö ³× ÒÓ Ò ØÓ ×ØÙ Ý Ø Ò Ø Ðº ÌÓ × ÓÛ Ø Ø HK × Ò× ×Ù × Ø Ó H Û Ø Ö ×Ô
Ø



ØÓ h 1,X , Ø × Ù× ÙÐ ØÓ ÔÔÐÝ Ì ÓÖ Ñ ½ Ó ÐÐ ÒØ ´½ ¾µ¸ Û Ó Ò ØÙÖÒ
Ø × ÑÙÒ ×



Ò ÅÓ×
Ø ÐÐ ´½ µº Ï Ö ÔÖÓ Ù
Ø Ø ÓÖ Ñ × ÔÖ × ÒØ Ý ÐÐ Òظ Û Ø Ñ ÒÓÖ



ÒÓØ Ø ÓÒ Ð
Ò ×¸ ÓÖ
ÓÒÚ Ò Ò
Ó Ö Ö Ò






Ì ÓÖ Ñ ¿½º ÑÙÒ × Ò ÅÓ×
Ø ÐÐ ¸ ½ ℄ Ä Ø Ø Ö Ð¹Ú ÐÙ ÙÒ
Ø ÓÒ h∗ (x)


ÓÒØ ÒÙÓÙ×ÐÝ Ö ÒØ Ð ÙÔ ØÓ ÓÖ Ö m ÓÒ Ò ÓÔ Ò × Ø
ÓÒØ Ò Ò Ø
ÐÓ×ÙÖ Ó Xº Ì Ò



Ø × ÔÓ×× Ð ØÓ
ÓÓ× ØÖ Ò ÙÐ Ö ÖÖ Ý Ó
Ó
ÒØ×θ1 , θ2 , . . . θK , . . . , ×Ù
Ø Ø ÓÖ



q Û Ø 0 ≤ q 0, h∗ (x) − hK (x|θK ) q,X = o(K −m+q+ε ) ×



K → ∞.

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾







ÁÒ Ø ÔÖ × ÒØ ÔÔÐ
Ø ÓÒ¸ q = 1¸ Ò m = 2º Ý Ò Ø ÓÒ Ó Ø ×Ø Ñ Ø ÓÒ ×Ô
¸ Ø



Ð Ñ ÒØ× Ó H Ö ÓÒ

ÓÒØ ÒÙÓÙ×ÐÝ Ö ÒØ Ð ÓÒ X¸ Û
× ÓÔ Ò Ò
ÓÒØ Ò× Ø




ÐÓ×ÙÖ Ó X¸ ×Ó Ø Ø ÓÖ Ñ × ÔÔÐ
Ð º ÐÓ× ÐÝ ÓÐÐÓÛ Ò ÐÐ ÒØ Ò ÆÝ
´½ µ¸



∪ ∞ HK × Ø
ÓÙÒØ Ð ÙÒ ÓÒ Ó Ø HK º Ì ÑÔÐ
Ø ÓÒ Ó Ì ÓÖ Ñ ¿½ × Ø Ø Ø Ö ×



× ÕÙ Ò
Ó ßhK ÖÓÑ ∪ ∞ HK ×Ù
Ø Ø





lim h∗ − hK 1,X = 0,

K→∞



ÓÖ ÐÐ h∗ ∈ Hº Ì Ö ÓÖ ¸



H ⊂ ∪ ∞ HK .

ÀÓÛ Ú Ö¸



∪∞ HK ⊂ H,

×Ó



∪∞ HK ⊂ H.

Ì Ö ÓÖ



H = ∪ ∞ HK ,

×Ó ∪ ∞ HK × Ò× ×Ù × Ø Ó H¸ Û Ø Ö ×Ô
Ø ØÓ Ø ÒÓÖÑ h 1,X º







¿º º ÍÒ ÓÖÑ
ÓÒÚ Ö Ò
º Ï ÒÓÛ ØÙÖÒ ØÓ Ø Ð Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒº Ï



×Ø Ñ Ø Ý ÇÄ˺ Ì × ÑÔÐ Ó
Ø Ú ÙÒ
Ø ÓÒ ×Ø Ø Ò Ø ÖÑ× Ó Ñ Ü Ñ Þ Ø ÓÒ ×

n

1

sn (θK ) = − (yt − gK (xt | θK ))2

n t=1



Ï Ø Ö Ò ÓÑ × ÑÔÐ Ò ¸ × Ò Ø
× Ó ÕÙ Ø ÓÒ× ¿½ Ò ¿¸ Ø Ð Ñ Ø Ò Ó
Ø Ú



ÙÒ
Ø ÓÒ ×









´ ¿µ s∞ (g, f ) = − (f (x) − g(x))2 dµx − σε .

2

X

Û Ö Ø ØÖÙ ÙÒ
Ø ÓÒ f (x) Ø × Ø ÔÐ
Ó Ø Ò Ö
ÙÒ
Ø ÓÒ h∗ Ò Ø ÔÖ × ÒØ Ø ÓÒ



Ó Ø Ø ÓÖ Ñº ÓØ g(x) Ò f (x) Ö Ð Ñ ÒØ× Ó ∪ ∞ HK º

Ì ÔÓ ÒØÛ ×
ÓÒÚ Ö Ò
Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒ Ò × ØÓ ×ØÖ Ò Ø Ò ØÓ ÙÒ ¹



ÓÖÑ
ÓÒÚ Ö Ò
º Ï Û ÐÐ × ÑÔÐÝ ××ÙÑ Ø Ø Ø × ÓР׸ × Ò
Ø Û Ý ØÓ Ú Ö Ý Ø ×



Ô Ò × ÙÔÓÒ Ø ×Ô

ÔÔÐ
Ø ÓÒº Ï Ð×Ó Ú
ÓÒØ ÒÙ ØÝ Ó Ø Ó
Ø Ú ÙÒ
Ø ÓÒ



Ò g, Û Ø Ö ×Ô
Ø ØÓ Ø ÒÓÖÑ h 1,X × Ò




lim s∞ g 1 , f ) − s∞ g 0 , f )

g 1 −g 0 1,X →0



2 2

= lim g1 (x) − f (x) − g0 (x) − f (x) dµx.

g 1 −g 0 1,X →0 X





Ý Ø ÓÑ Ò Ø
ÓÒÚ Ö Ò
Ø ÓÖ Ñ ´Û
ÔÔÐ × × Ò
Ø Ò Ø ÓÙÒ D Ù× ØÓ



Ò W2,Z (D) × ÓÑ Ò Ø Ý Ò ÒØ Ö Ð ÙÒ
Ø ÓÒµ¸ Ø Ð Ñ Ø Ò Ø ÒØ Ö Ð
Ò



ÒØ Ö
Ò ¸ ×Ó Ý Ò×Ô
Ø ÓÒ¸ Ø Ð Ñ Ø × Þ ÖÓº









¿º º Á ÒØ
Ø ÓÒº Ì ÒØ
Ø ÓÒ
ÓÒ Ø ÓÒ Ö ÕÙ Ö × Ø Ø ÓÖ ÒÝ ÔÓ ÒØ (g, f ) Ò



H×H, s∞ (g, f ) ≥ s∞ (f, f ) ⇒ g−f 1,X = 0º Ì ×
ÓÒ Ø ÓÒ ×
Ð ÖÐÝ × Ø × Ú ÒØ Ø



g Ò f Ö ÓÒ

ÓÒØ ÒÙÓÙ×ÐÝ Ö ÒØ Ð ´ Ý Ø ××ÙÑÔØ ÓÒ Ø Ø Ò × Ø ×Ø Ñ Ø ÓÒ



×Ô
µº

¿º ÌÀ ÇÍÊÁ Ê ÍÆ ÌÁÇÆ Ä ÇÊÅ ¾¾







¿º º Ê Ú Û Ó
ÓÒ
ÔØ׺ ÓÖ Ø Ü ÑÔÐ Ó ×Ø Ñ Ø ÓÒ Ó Ö×عÓÖ Ö Ð ×Ø
Ø ×¸



Ø Ö Ð Ú ÒØ
ÓÒ
ÔØ× Ö



• ×Ø Ñ Ø ÓÒ ×Ô
H = W2,X (D) Ø ÙÒ
Ø ÓÒ ×Ô
Ò Ø
ÐÓ×ÙÖ Ó Û
Ø



ØÖÙ ÙÒ
Ø ÓÒ ÑÙ×Ø Ð º



• ÓÒ× ×Ø Ò
Ý ÒÓÖÑ h 1,X . Ì
ÐÓ×ÙÖ Ó H ×
ÓÑÔ
Ø Û Ø Ö ×Ô
Ø ØÓ Ø ×



ÒÓÖѺ



• ×Ø Ñ Ø ÓÒ ×Ù ×Ô
HK . Ì ×Ø Ñ Ø ÓÒ ×Ù ×Ô
× Ø ×Ù × Ø Ó H Ø Ø ×



Ö ÔÖ × ÒØ Ð Ý ÓÙÖ Ö ÓÖÑ Û Ø Ô Ö Ñ Ø Ö θK . Ì × Ö Ò× ×Ù × Ø× Ó



H.

• Ë ÑÔÐ Ó
Ø Ú ÙÒ
Ø ÓÒ sn (θK ), Ø Ò Ø Ú Ó Ø ×ÙÑ Ó ×ÕÙ Ö ×º Ý ×Ø Ò Ö



Ö ÙÑ ÒØ× Ø ×
ÓÒÚ Ö × ÙÒ ÓÖÑÐÝ ØÓ Ø



• Ä Ñ Ø Ò Ó
Ø Ú ÙÒ
Ø ÓÒ s∞ ( g, f ), Û
×
ÓÒØ ÒÙÓÙ× Ò g Ò × ÐÓ Ð



Ñ Ü ÑÙÑ Ò Ø× Ö×Ø Ö ÙÑ Òظ ÓÚ Ö Ø
ÐÓ×ÙÖ Ó Ø Ò Ò Ø ÙÒ ÓÒ Ó Ø ×Ø ¹



Ñ Ø ÓÒ ×Ù Ô
׸ Ø g = f.

• × Ö ×ÙÐØ Ó Ø ×¸ Ö×Ø ÓÖ Ö Ð ×Ø
Ø ×



xi ∂f (x)

f (x) ∂xi f (x)

Ö
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø ÓÖ ÐÐ x ∈ X.



¿º º ×
Ù×× ÓÒº ÓÒ× ×Ø Ò
Ý Ö ÕÙ Ö × Ø Ø Ø ÒÙÑ Ö Ó Ô Ö Ñ Ø Ö× Ù× Ò Ø



ÜÔ Ò× ÓÒ Ò
Ö × Û Ø Ø × ÑÔÐ × Þ ¸ Ø Ò Ò ØÓ Ò Ò Øݺ Á Ô Ö Ñ Ø Ö× Ö Ø



Ö Ø ¸ Ø × Ø Ò × Ö Ð Ø Ú ÐÝ Ö Ô ÐÝ ØÓ Þ ÖÓº ×
ÔÖÓ Ð Ñ × Ø Ø Ö Ø Ó



Ò
ÐÙ× ÓÒ Ó Ø ÓÒ Ð Ô Ö Ñ Ø Ö×
Ù× × Ø Ú Ö Ò
ØÓ Ø Ò ÑÓÖ ×ÐÓÛÐÝ ØÓ Þ ÖÓº Ì



××Ù Ó ÓÛ ØÓ
Ó× Ø Ö Ø Ø Û
Ô Ö Ñ Ø Ö× Ö Ò Û
ØÓ Ö×Ø ×



ÖÐÝ
ÓÑÔРܺ ÔÖÓ Ð Ñ × Ø Ø Ø ÐÐÓÛ Ð Ö Ø × ÓÖ ×ÝÑÔØÓØ
ÒÓÖÑ Ð ØÝ ØÓ Ó Ø Ò



´ Ò Ö Û× ½ ½ ÐÐ ÒØ Ò ËÓÙÞ ¸ ½ ½µ Ö Ú ÖÝ ×ØÖ
غ ËÙÔÔÓ× Ò Û ×Ø
ØÓ Ø ×



Ö Ø ×¸ ÓÙÖ ÔÔÖÓÜ Ñ Ø Ò ÑÓ Ð ×





gK (x|θK ) = z′ θK .



• Ò ZK × Ø n×K Ñ ØÖ Ü Ó Ö Ö ××ÓÖ× Ó Ø Ò Ý ×Ø
Ò Ó × ÖÚ Ø ÓÒ׺



Ì ÄË ×Ø Ñ ØÓÖ ×

ˆ +

θ K = Z′ ZK

K Z′ y,

K



Û Ö (·)+ × Ø ÅÓÓÖ ¹È ÒÖÓ× Ò Ö Ð Þ ÒÚ Ö× º



Ì × × Ù× × Ò
Z′ ZK Ñ Ý

K × Ò ÙÐ Ö¸ × ÛÓÙÐ Ø
× ÓÖ K(n)

Ð Ö ÒÓÙ Û Ò ×ÓÑ ÙÑÑÝ Ú Ö Ð × Ö Ò
ÐÙ º



• º Ì ÔÖ

′ˆ


Ø ÓÒ¸ z θK , Ó Ø ÙÒ ÒÓÛÒ ÙÒ
Ø ÓÒ f (x) × ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ ÐÐÝ



×ØÖ ÙØ

√ d

ˆ

n z′ θK − f (x) → N (0, AV ),

Û Ö

+

Z′ ZK

AV = lim E z′ K

zˆ 2 .

σ

n→∞ n

ÓÖÑ ÐÐݸ Ø × × Ü
ØÐÝ Ø × Ñ × Û Û Ö Ð Ò Û Ø Ô Ö Ñ ØÖ
Ð Ò Ö



ÑÓ Ðº Á ÑÔ × Þ ¸ Ø ÓÙ ¸ Ø Ø Ø × × ÓÒÐÝ Ú Ð K ÖÓÛ× Ú ÖÝ ×ÐÓÛÐÝ ×



n ÖÓÛ׺ Á Û
Ò³Ø ×Ø
ØÓ

ÔØ Ð Ö Ø ×¸ Û × ÓÙÐ ÔÖÓ ÐÝ Ù× ×ÓÑ



ÓØ Ö Ñ Ø Ó Ó ÔÔÖÓÜ Ñ Ø Ò Ø ×Ñ ÐÐ × ÑÔÐ ×ØÖ ÙØ ÓÒº ÓÓØ×ØÖ ÔÔ Ò ×



ÔÓ×× Ð Øݺ Ï ³ÐÐ ×
Ù×× Ø × Ò Ø ×
Ø ÓÒ ÓÒ × ÑÙÐ Ø ÓÒº

º Ã ÊÆ Ä Ê Ê ËËÁÇÆ ËÌÁÅ ÌÇÊË ¾¾







º à ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ×

Ê Ò × Ö Ò׸ ½ ¸ à ÖÒ Ð ×Ø Ñ ØÓÖ× Ó Ö Ö ×× ÓÒ ÙÒ
Ø ÓÒ׸ Ò Ú Ò
× Ò


ÓÒÓÑ ØÖ
׸ Ø ÏÓÖÐ ÓÒ Ö ×׸ κ ½¸ ÌÖÙÑ Ò ÛРݸ º¸ Ñ Ö º



Ò ÐØ ÖÒ Ø Ú Ñ Ø Ó ØÓ Ø × Ñ ¹ÒÓÒÔ Ö Ñ ØÖ
Ñ Ø Ó × ÙÐÐÝ ÒÓÒÔ Ö Ñ ØÖ




Ñ Ø Ó Ó ×Ø Ñ Ø ÓÒº à ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ Ø ÓÒ × Ò Ü ÑÔÐ ´ÓØ Ö× Ö ×ÔÐ Ò ×¸



Ò Ö ×Ø Ò ÓÖ¸ Ø
ºµº Ï ³ÐÐ
ÓÒ× Ö Ø Æ Ö Ý ¹Ï Ø×ÓÒ ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ



Ò × ÑÔÐ
× º





• ËÙÔÔÓ× Û Ú Ò × ÑÔÐ ÖÓÑ Ø Ó ÒØ Ò× ØÝ f (x, y), Û Ö x × k ¹



Ñ Ò× ÓÒ Ðº Ì ÑÓ Ð ×





yt = g(xt ) + εt ,



Û Ö



E(εt |xt ) = 0.

• Ì
ÓÒ Ø ÓÒ Ð ÜÔ
Ø Ø ÓÒ Ó y Ú Ò x × g(x). Ý Ò Ø ÓÒ Ó Ø
ÓÒ Ø ÓÒ Ð



ÜÔ
Ø Ø ÓÒ¸ Û Ú



f (x, y)

g(x) = y dy

h(x)

1

= yf (x, y)dy,

h(x)

Û Ö h(x) × Ø Ñ Ö Ò Ð Ò× ØÝ Ó x:



h(x) = f (x, y)dy.



• Ì × ×Ù ×Ø× Ø Ø Û
ÓÙÐ ×Ø Ñ Ø g(x) Ý ×Ø Ñ Ø Ò h(x) Ò yf (x, y)dy.





º½º ×Ø Ñ Ø ÓÒ Ó Ø ÒÓÑ Ò ØÓÖº ÖÒ Ð ×Ø Ñ ØÓÖ ÓÖ h(x) × Ø ÓÖÑ



n

ˆ 1 K [(x − xt ) /γn ]

h(x) = k

,

n t=1

γn

Û Ö n × Ø × ÑÔÐ × Þ Ò k × Ø Ñ Ò× ÓÒ Ó x.



• Ì ÙÒ
Ø ÓÒ K(·) ´Ø ÖÒ Ðµ × ×ÓÐÙØ ÐÝ ÒØ Ö Ð





|K(x)|dx 0 ψ > 0º Ì Ù×Ù Ð Ñ Ò× Ó Ò
ÓÖÔÓÖ Ø Ò
ÓÒ Ø ÓÒ Ò

Ò



Ú Ö Ð × x × Ø Ô Ö Ñ Ø Ö Þ Ø ÓÒ λ = e

x′ β º Ï Ò ψ = λ/α Û Ú Ø Ò Ø Ú



ÒÓÑ Ð¹Á ÑÓ Ð ´Æ ¹Áµº Ï Ò ψ = 1/α Û Ú Ø Ò Ø Ú ÒÓÑ Ð¹ÁÁ ´ÆȹÁÁµ ÑÓ Ðº



ÓÖ Ø Æ ¹Á Ò× Øݸ V (Y ) = λ + αλº ÁÒ Ø
× Ó Ø Æ ¹ÁÁ ÑÓ Ð¸ Û Ú V (Y ) =



λ+ αλ2 º ÓÖ ÓØ ÓÖÑ׸ E(Y ) = λº



Ì Ö × Ô Ò× Øݸ Û Ø ÒÓÖÑ Ð Þ Ø ÓÒ ØÓ ×ÙÑ ØÓ ÓÒ ¸ ×



ψ y

[hp (y|γ)]2 Γ(y + ψ) ψ λ

´ µ fY (y|φ, γ) = .

ηp (φ, γ) Γ(y + 1)Γ(ψ) ψ+λ ψ+λ

º Ë ÅÁ¹ÆÇÆÈ Ê Å ÌÊÁ Å ÁÅÍÅ ÄÁà ÄÁÀÇÇ ¾¿¿









ÙÖ º Æ Ø Ú ÒÓÑ Ð Ö Û ÑÓÑ ÒØ×









ÌÓ Ø Ø ÒÓÖÑ Ð Þ Ø ÓÒ
ØÓÖ¸ Û Ò Ø ÑÓÑ ÒØ Ò Ö Ø Ò ÙÒ
Ø ÓÒ



−ψ

´ µ MY (t) = ψ ψ λ − et λ + ψ .



ÌÓ ÐÐÙ×ØÖ Ø ¸ ÙÖ × ÓÛ×
Ð
ÙÐ Ø ÓÒ Ó Ø Ö×Ø ÓÙÖ Ö Û ÑÓÑ ÒØ× Ó Ø Æ Ò× Øݸ




Ð
ÙÐ Ø Ù× Ò ÅÙÈ ¸ Û
× ÓÑÔÙØ Ö Ð Ö ËÝ×Ø Ñ Ø Ø ´Ù× ØÓ µ Ö ÓÖ



Ô Ö×ÓÒ Ð Ù× º Ì × Ö Ø ÑÓÑ ÒØ× ÝÓÙ ÛÓÙÐ Ò ØÓ Ù× ×
ÓÒ ÓÖ Ö ÔÓÐÝÒÓÑ Ð



(p = 2)º ÅÙÈ Û ÐÐ ÓÙØÔÙØ Ø × Ö ×ÙÐØ× Ò Ø ÓÖÑ Ó
Ó ¸ Û
× Ö Ð Ø Ú ÐÝ ×Ý ØÓ



Ø ØÓ ÛÖ Ø Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ ÓÖ Ø ÑÓ Ðº Ì × × Ò ÓÒ Ò Æ ÒËÆȺ

¸



Û
× ·· Ú Ö× ÓÒ Ó Ø × ÑÓ Ð Ø Ø
Ò
ÓÑÔ Ð ØÓ Ù× Û Ø Ó
Ø Ú Ù× Ò Ø



Ñ Ó
Ø Ð
ÓÑÑ Ò º ÆÓØ Ø ÑÔÖ ×× Ú Ð Ò Ø Ó Ø ÜÔÖ ×× ÓÒ× Û Ò Ø Ö Ó



Ø ÜÔ Ò× ÓÒ × ÓÖ Ì × × Ò Ü ÑÔÐ Ó ÑÓ Ð Ø Ø ÛÓÙÐ
ÙÐØ ØÓ ÓÖÑÙÐ Ø



Û Ø ÓÙØ Ø ÐÔ Ó ÔÖÓ Ö Ñ Ð ÅÙÈ º

ÁØ × ÔÓ×× Ð Ø ØØ Ö ×
ÓÒ Ø ÓÒ Ð Ø ÖÓ Ò ØÝ ×Ù
Ø ØØ ÔÔÖÓÔÖ Ø Ö × Ô Ò



× ÓÙÐ ÑÓÖ ÐÓ
к Ì ×
Ò

ÓÑÓ Ø Ý ÐÐÓÛ Ò Ø γk Ô Ö Ñ Ø Ö× ØÓ Ô Ò



ÙÔÓÒ Ø
ÓÒ Ø ÓÒ Ò Ú Ö Ð ×¸ ÓÖ Ü ÑÔÐ Ù× Ò ÔÓÐÝÒÓÑ Ð׺



ÐÐ ÒØ Ò ÆÝ
¸
ÓÒÓÑ ØÖ
¸ ½ ÔÖÓÚ Ø Ø Ø × ×ÓÖØ Ó Ò× ØÝ
Ò ÔÔÖÓÜ ¹



Ñ Ø Û Ú Ö ØÝ Ó Ò× Ø × Ö ØÖ Ö ÐÝ Û ÐÐ × Ø Ö Ó Ø ÔÓÐÝÒÓÑ Ð Ò
Ö × ×



Û Ø Ø × ÑÔÐ × Þ º Ì × ÔÔÖÓ
× ÒÓØ Û Ø ÓÙØ Ø× Ö Û
× Ø × ÑÔÐ Ó
Ø Ú



ÙÒ
Ø ÓÒ
Ò Ú Ò ÜØÖ Ñ ÐÝ Ð Ö ÒÙÑ Ö Ó ÐÓ
Ð Ñ Ü Ñ Ø Ø
Ò Ð ØÓ ÒÙÑ Ö





ÙÐØ ×º Á ×ÓÑ ÓÒ
ÓÙÐ ÙÖ ÓÙØ ÓÛ ØÓ Ó Ò Û Ý ×Ù
Ø Ø Ø × ÑÔÐ Ó
Ø Ú



ÙÒ
Ø ÓÒ Û × Ò
Ò ×ÑÓÓØ ¸ Ø Ý ÛÓÙÐ ÔÖÓ ÐÝ Ø Ø Ô Ô Ö ÔÙ Ð × Ò ÓÓ



ÓÙÖÒ Ðº ÒÝ ×



À Ö ³× ÔÐÓØ Ó ØÖÙ Ò Ø Ð Ñ Ø Ò ËÆÈ ÔÔÖÓÜ Ñ Ø ÓÒ× ´Û Ø Ø ÓÖ Ö Ó Ø



ÔÓÐÝÒÓÑ Ð Ü µ ØÓ ÓÙÖ Ö ÒØ
ÓÙÒØ Ø Ò× Ø ×¸ Û
Ú Ö ÓÙ×ÐÝ Ü Ø ÓÚ Ö Ò



ÙÒ Ö ×Ô Ö× ÓÒ¸ × Û ÐÐ × Ü
×× Þ ÖÓ׺ Ì × Ð Ò ÑÓ Ð × Ò Ø Ú ÒÓÑ Ð Ò× Øݺ

º ÅÈÄ Ë ¾¿









Case 1 Case 2

.5



.4 .1



.3



.2 .05



.1





0 5 10 15 20 0 5 10 15 20 25

Case 3 Case 4

.25 .2



.2 .15



.15

.1

.1

.05

.05



1 2 3 4 5 6 7 2.5 5 7.5 10 12.5 15









º Ü ÑÔÐ ×

Ï ³ÐÐ Ù× Ø Å ÈË Ç Î Ø ØÓ ÐÐÙ×ØÖ Ø ÖÒ Ð Ö Ö ×× ÓÒ Ò × Ñ ¹ÒÓÒÔ Ö Ñ ØÖ




Ñ Ü ÑÙÑ Ð Ð ÓÓ º





º½º à ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ Ø ÓÒº Ä Ø³× ØÖÝ ÖÒ Ð Ö Ö ×× ÓÒ Ø ÓÖ Ø Ç Î



Ø º Ì ÔÖÓ Ö Ñ Ç Î ÖÒ ÐºÑ ÐÓ × Ø Å ÈË Ç Î Ø ¸ ×
Ò× ÓÚ Ö Ö Ò



Ó Û Ò ÓÛ Û Ø × Ò
Ð
ÙÐ Ø × Ð Ú ¹ÓÒ ¹ÓÙØ Î ×
ÓÖ ×¸ Ò ÔÐÓØ× Ø ØØ Ç Î



Ù× Ú Ö×Ù× ¸ Ù× Ò Ø ×Ø Û Ò ÓÛ Û Ø º Ì ÔÐÓØ × Ò ÙÖ º ÆÓØ Ø Ø



Ù× Ò
Ö × × Û Ø ¸ Ù×Ø × Û ³Ú × Ò Û Ø Ø Ô Ö Ñ ØÖ
ÑÓ Ð׺ ÇÒ

ÓÙÐ Ù×



ÓÓØ×ØÖ ÔÔ Ò ØÓ Ò Ö Ø
ÓÒ Ò
ÒØ ÖÚ Ð ØÓ Ø Øº





º¾º Ë Ñ ÒÓÒÔ Ö Ñ ØÖ
ÅÄ ×Ø Ñ Ø ÓÒ Ò Ø Å ÈË Ø º ÆÓÛ Ð Ø³× ×Ø ¹



Ñ Ø × Ñ ÒÓÒÔ Ö Ñ ØÖ
Ò× ØÝ ÓÖ Ø Ç Î Ø º Ï ³ÐÐ Ö × Ô Ò Ø Ú ÒÓÑ Ð



Ò× Øݸ × ×
Ù×× ÓÚ º Ì ÔÖÓ Ö Ñ ×Ø Ñ Ø Æ ËÆ鼄 ÐÓ × Ø Å ÈË Ç Î



Ø Ò ×Ø Ñ Ø × Ø ÑÓ Ð¸ Ù× Ò Æ ¹Á × Ð Ò Ò× ØÝ Ò ¾Ò ÓÖ Ö ÔÓÐÝÒÓÑ Ð



ÜÔ Ò× ÓÒº Ì ÓÙØÔÙØ ×









Ç Î





ËÅÁÆ Ò Ð Ö ×ÙÐØ×



Í× ÒÙÑ Ö
Ö ÒØ



¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

ËÌÊÇÆ ÇÆÎ Ê Æ

ÙÒ
Ø ÓÒ
ÓÒÚ ½ È Ö Ñ
ÓÒÚ ½ Ö ÒØ
ÓÒÚ ½

º ÅÈÄ Ë ¾¿









ÙÖ º Ã ÖÒ Ð ØØ Ç Î Ù× Ú Ö×Ù×



Kernel fit, OBDV visits versus AGE

5









4.5









4









3.5









3









2.5









2

15 20 25 30 35 40 45 50 55 60 65







¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¾º½ ¼ ½

ËØ Ô× Þ ¼º¼¼

¾ Ø Ö Ø ÓÒ×

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹



Ô Ö Ñ Ö ÒØ
Ò

½º¿ ¾ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¾¿½ ¹¼º¼¼¼¼ ¼º¼¼¼¼

¼º½ ¿ ¼º¼¼¼¼ ¼º¼¼¼¼

¼º¾¾½ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º½ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º¼ ¾¾ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¹¼º¼¼¼¾ ¼º¼¼¼¼ ¹¼º¼¼¼¼

½º ¿ ¹¼º¼¼¼¼ ¹¼º¼¼¼¼

¹¼º ¿ ¼º¼¼¼¼ ¹¼º¼¼¼¼

¼º½½¾ ¼º¼¼¼¼ ¼º¼¼¼¼





¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Æ Ò ËÆÈ ÑÓ Ð¸ Å ÈË ÙÐÐ Ø × Ø



ÅÄ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò




Ú Ö ÄÓ ¹Ä ¹¾º½ ¼ ½

Ç × ÖÚ Ø ÓÒ×



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ


ÓÒ×Ø ÒØ ¹¼º½ ¼º½¾ ¹½º½ ¿ ¼º¾ ½

ÔÙ º Ò׺ ¼º ¼º¼ ¼ ½¿º ¿ ¼º¼¼¼

ÔÖ Úº Ò׺ ¼º ¼ ¼º¼ º ¿¿ ¼º¼¼¼

× Ü ¼º ¿ ¼º¼¿ ½¿º½ ¼º¼¼¼

¼º¼½ ¼º¼¼½ ½½º ¼ ¼º¼¼¼

º ÅÈÄ Ë ¾¿







Ù ¼º¼¾ ¼º¼¼ ¿º ¼¿ ¼º¼¼¼

Ò
¹¼º¼¼¼ ¼º¼¼¼ ¹¼º¼½½ ¼º ½

ѽ ½º ¼º½ ½ ½¾º ¾ ¼º¼¼¼

Ѿ ¹¼º ¿ ¼º¼¾ ¹½ º ¼º¼¼¼

ÐÒ ÐÔ ¼º½½¿ ¼º¼¾ º½ ¼º¼¼¼



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

Á ½ ¼ º ¾ Ú º Á º¿ ½

Á ½ º ¾ Ú º Á º¿

Á ½ ¿¿º¿ Ú º Á º¿

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶



ÆÓØ Ø Ø Ø Á Ò Á Ö ÐÓÛ Ö ÓÖ Ø × ÑÓ Ð Ø Ò ÓÖ Ø ÑÓ Ð× ÔÖ × ÒØ Ò



Ì Ð ¿º Ì × ÑÓ Ð Ø× Û Ðи ×Ø ÐÐ Ò Ô Ö× ÑÓÒ ÓÙ׺ ÓÙ
Ò ÔÐ Ý ÖÓÙÒ ØÖÝ Ò ÓØ Ö



Ù× Ñ ×ÙÖ ×¸ Ù× Ò ÆȹÁÁ × Ð Ò Ò× Øݸ Ò Ù× Ò ÓØ Ö ÓÖ Ö× Ó ÜÔ Ò× ÓÒ׺ Ò× ØÝ



ÙÒ
Ø ÓÒ× ÓÖÑ Ò Ø × Û Ý Ñ Ý Ú Å Æ ÐÓ
Ð Ñ Ü Ñ ¸ ×Ó ÝÓÙ Ò ØÓ
Ö ÙÐ



ÓÖ

ÔØ Ò Ø Ö ×ÙÐØ× Ó
×Ù Ð ÖÙÒº ÌÓ Ù Ö Ò×Ø Ú Ò
ÓÒÚ Ö ØÓ ÐÓ
Ð



Ñ Ü ÑÙѸ ÓÒ
Ò ØÖÝ Ù× Ò ÑÙÐØ ÔÐ ×Ø ÖØ Ò Ú Ð٠׸ ÓÖ ÓÒ
ÓÙÐ ØÖÝ × ÑÙÐ Ø ÒÒ Ð Ò



× Ò ÓÔØ Ñ Þ Ø ÓÒ Ñ Ø Ó º Á ÝÓÙ ÙÒ
ÓÑÑ ÒØ Ø Ö Ð Ú ÒØ Ð Ò × Ò Ø ÔÖÓ Ö Ñ¸ ÝÓÙ
Ò



Ù× Ë ØÓ Ó Ø Ñ Ò Ñ Þ Ø ÓÒº Ì × Û ÐÐ Ø ÐÓØ Ó Ø Ñ ¸
ÓÑÔ Ö ØÓ Ø ÙÐØ Ë



Ñ Ò Ñ Þ Ø ÓÒº Ì
ÔØ Ö ÓÒ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ø ÓÒ× Ñ Ø ÒØ Ö ×Ø Ò ØÓ Ö ÓÖ



ØÖÝ Ò Ø ×º

À ÈÌ Ê ½







Ë ÑÙÐ Ø ÓÒ¹ × ×Ø Ñ Ø ÓÒ



Ê Ò × ÁÒ Ø ÓÒ ØÓ Ø ÓÓ Ñ ÒØ ÓÒ ÔÖ Ú ÓÙ×Ðݸ ÖØ
Ð × Ò
ÐÙ ÐÐ ÒØ Ò



Ì Ù
Ò ´½ µ¸ Ï
ÅÓÑ ÒØ× ØÓ Å Ø
¸ ÇÆÇÅ ÌÊÁ ÌÀ ÇÊ ¸ ÎÓк ½¾¸ ½ ¸



Ô × ¹ ½ ÓÙÖ ÖÓÙܸ ÅÓÒ ÓÖØ Ò Ê Ò ÙÐØ ´½ ¿µ¸ ÁÒ Ö
Ø ÁÒ Ö Ò
¸ º Ôк


ÓÒÓÑ ØÖ
× È × Ò ÈÓÐÐ Ö ´½ µ
ÓÒÓÑ ØÖ
Å
Ò ´½ µ
ÓÒÓÑ ØÖ
º



½º ÅÓØ Ú Ø ÓÒ

Ë ÑÙÐ Ø ÓÒ Ñ Ø Ó × Ö Ó ÒØ Ö ×Ø Û Ò Ø È × ÙÐÐÝ
Ö
Ø Ö Þ Ý Ô Ö Ñ Ø Ö



Ú
ØÓÖ¸ ÙØ Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ × ÒÓØ
Ð
ÙÐ Ð º Á Ø Û Ö Ú Ð Ð ¸ Û ÛÓÙÐ × ÑÔÐÝ



×Ø Ñ Ø Ý ÅÄ ¸ Û
× ×ÝÑÔØÓØ
ÐÐÝ ÙÐÐÝ
Òغ





½º½º Ü ÑÔÐ ÅÙÐØ ÒÓÑ Ð Ò »ÓÖ ÝÒ Ñ
×
Ö Ø Ö ×ÔÓÒ× ÑÓ Ð׺ Ä Ø

∗

yi Ð Ø ÒØ Ö Ò ÓÑ Ú
ØÓÖ Ó Ñ Ò× ÓÒ m. ËÙÔÔÓ× Ø Ø



∗

yi = Xi β + εi



Û Ö Xi × m × K. ËÙÔÔÓ× Ø Ø





´ µ εi ∼ N (0, Ω)



À Ò
ÓÖØ ÖÓÔ Ø i ×Ù ×
Ö ÔØ Û Ò Ø × ÒÓØ Ò ÓÖ
Ð Ö Øݺ



• y∗ × ÒÓØ Ó × ÖÚ º Ê Ø Ö¸ Û Ó × ÖÚ Ñ ÒݹØÓ¹ÓÒ Ñ ÔÔ Ò





y = τ (y ∗ )



Ì × Ñ ÔÔ Ò × ×Ù
Ø Ø
Ð Ñ ÒØ Ó y × Ø Ö Þ ÖÓ ÓÖ ÓÒ ´ Ò ×ÓÑ
× ×



ÓÒÐÝ ÓÒ Ð Ñ ÒØ Û ÐÐ ÓÒ µº



• Ò



Ai = A(yi ) = {y ∗ |yi = τ (y ∗ )}

ËÙÔÔÓ× Ö Ò ÓÑ × ÑÔÐ Ò Ó (yi , Xi )º ÁÒ Ø ×
× Ø Ð Ñ ÒØ× Ó yi Ñ Ý ÒÓØ



Ò Ô Ò ÒØ Ó ÓÒ ÒÓØ Ö ´ Ò
Ð ÖÐÝ Ö ÒÓØ Ω × ÒÓØ ÓÒ Ðµº ÀÓÛ Ú Ö¸



yi × Ò Ô Ò ÒØ Ó yj ¸ i = j.

• Ä Ø θ= (β ′ , (vec∗ Ω)′ )′ Ø Ú
ØÓÖ Ó Ô Ö Ñ Ø Ö× Ó Ø ÑÓ Ðº Ì
ÓÒØÖ ÙØ ÓÒ



Ó Ø ith Ó × ÖÚ Ø ÓÒ ØÓ Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×



∗ ∗

pi (θ) = n(yi − Xi β, Ω)dyi

Ai



Û Ö

−ε′ Ω−1 ε

n(ε, Ω) = (2π)−M/2 |Ω|−1/2 exp

2

× Ø ÑÙÐØ Ú Ö Ø ÒÓÖÑ Ð Ò× ØÝ Ó Ò M ¹ Ñ Ò× ÓÒ Ð Ö Ò ÓÑ Ú
ØÓÖº Ì



ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×

n

1

ln L(θ) = ln pi (θ)

n

i=1

¾¿

½º ÅÇÌÁÎ ÌÁÇÆ ¾¿









Ò Ø ÅÄ ˆ

θ ×ÓÐÚ × Ø ×
ÓÖ ÕÙ Ø ÓÒ×

n n ˆ

1 ˆ 1 Dθ pi (θ)

gi (θ) = ≡ 0.

n n ˆ

pi (θ)

i=1 i=1



• Ì ÔÖÓ Ð Ñ × Ø Ø Ú ÐÙ Ø ÓÒ Ó Li (θ) Ò Ø× Ö Ú Ø Ú ÛºÖºØº θ Ý ×Ø Ò Ö



Ñ Ø Ó × Ó ÒÙÑ Ö
ÒØ Ö Ø ÓÒ ×Ù
× ÕÙ Ö ØÙÖ ×
ÓÑÔÙØ Ø ÓÒ ÐÐÝ Ò × Ð



Û Ò m ´Ø Ñ Ò× ÓÒ Ó y) × Ö Ø Ò ¿ ÓÖ ´ × ÐÓÒ × Ø Ö Ö ÒÓ



Ö ×ØÖ
Ø ÓÒ× ÓÒ Ω).

• Ì Ñ ÔÔ Ò τ (y ∗ ) × ÒÓØ Ò Ñ ×Ô

×Ó Öº Ì × × ØÙÔ × ÕÙ Ø Ò Ö Ð



ÓÖ Ö ÒØ
Ó
× Ó τ (y ∗ ) Ø Ò ×Ø× Ø
× Ó ÝÒ Ñ
Ò ÖÝ ×
Ö Ø
Ó




ÑÓ Ð× × Û ÐÐ × Ø
× Ó ÑÙÐØ ÒÓÑ Ð ×
Ö Ø
Ó
´Ø
Ó
Ó ÓÒ ÓÙØ Ó



Ò Ø × Ø Ó ÐØ ÖÒ Ø Ú ×µº



ÅÙÐØ ÒÓÑ Ð ×
Ö Ø
Ó
× ÐÐÙ×ØÖ Ø Ý ´Ú ÖÝ × ÑÔÐ µ Ó × Ö
ÑÓ Ðº



Ï Ú
ÖÓ×× ×
Ø ÓÒ Ð Ø ÓÒ Ò Ú Ù Ð׳ Ñ Ø
Ò ØÓ × Ø Ó m Ó × Ø Ø



Ö Ú Ð Ð ´ÓÒ Ó Û
× ÙÒ ÑÔÐÓÝÑ Òصº Ì ÙØ Ð ØÝ Ó ÐØ ÖÒ Ø Ú j ×





uj = Xj β + εj



ÍØ Ð Ø ×Ó Ó ×¸ ×Ø
ÒØ Ú
ØÓÖ ui Ö ÒÓØ Ó × ÖÚ º Ê Ø Ö¸ Û Ó × ÖÚ



Ø Ú
ØÓÖ ÓÖÑ Ó Ð Ñ ÒØ×





yj = 1 [uj > uk , ∀k ∈ m, k = j]



ÇÒÐÝ ÓÒ Ó Ø × Ð Ñ ÒØ× × Ö ÒØ Ø Ò Þ ÖÓº



ÝÒ Ñ
×
Ö Ø
Ó
× ÐÐÙ×ØÖ Ø Ý Ö Ô Ø
Ó
× ÓÚ Ö Ø Ñ ØÛ Ò



ØÛÓ ÐØ ÖÒ Ø Ú ×º Ä Ø ÐØ ÖÒ Ø Ú j Ú ÙØ Ð ØÝ





ujt = Wjt β − εjt ,

j ∈ {1, 2}

t ∈ {1, 2, ..., m}



Ì Ò





y ∗ = u2 − u1

= (W2 − W1 )β + ε2 − ε1

≡ Xβ + ε



ÆÓÛ Ø Ñ ÔÔ Ò × ´ Ð Ñ Òع ݹ Ð Ñ Òص





y = 1 [y ∗ > 0] ,



Ø Ø × yit = 1 Ò Ú Ù Ð i
ÓÓ× × Ø ×
ÓÒ ÐØ ÖÒ Ø Ú Ò Ô Ö Ó t, Þ ÖÓ



ÓØ ÖÛ × º







½º¾º Ü ÑÔÐ Å Ö Ò Ð Þ Ø ÓÒ Ó Ð Ø ÒØ Ú Ö Ð ×º
ÓÒÓÑ
Ø Ó Ø Ò ÔÖ × ÒØ×



×Ù ×Ø ÒØ Ð Ø ÖÓ Ò ØÝ Ø Ø Ñ Ý
ÙÐØ ØÓ ÑÓ Ðº ÔÓ×× Ð ØÝ × ØÓ ÒØÖÓ Ù
Ð ¹



Ø ÒØ Ö Ò ÓÑ Ú Ö Ð ×º Ì ×
Ò
Ù× Ø ÔÖÓ Ð Ñ Ø Ø Ø Ö Ñ Ý ÒÓ ÒÓÛÒ
ÐÓ×



ÓÖÑ ÓÖ Ø ×ØÖ ÙØ ÓÒ Ó Ó × ÖÚ Ð Ú Ö Ð × Ø Ö Ñ Ö Ò Ð Þ Ò ÓÙØ Ø ÙÒÓ × ÖÚ Ð



Ð Ø ÒØ Ú Ö Ð ×º ÓÖ Ü ÑÔÐ ¸
ÓÙÒØ Ø ´Ø Ø Ø × Ú ÐÙ × 0, 1, 2, 3, ...) × Ó Ø Ò ÑÓ Ð



Ù× Ò Ø ÈÓ ××ÓÒ ×ØÖ ÙØ ÓÒ



exp(−λ)λi

Pr(y = i) =

i!

½º ÅÇÌÁÎ ÌÁÇÆ ¾¿







Ì Ñ Ò Ò Ú Ö Ò
Ó Ø ÈÓ ××ÓÒ ×ØÖ ÙØ ÓÒ Ö ÓØ ÕÙ Ð ØÓ λ:



E(y) = V (y) = λ.



Ç Ø Ò¸ ÓÒ Ô Ö Ñ Ø Ö Þ × Ø
ÓÒ Ø ÓÒ Ð Ñ Ò ×





λi = exp(Xi β).



Ì × Ò×ÙÖ × Ø ØØ Ñ Ò × ÔÓ× Ø Ú ´ × Ø ÑÙ×Ø µº ×Ø Ñ Ø ÓÒ Ý ÅÄ × ×ØÖ Ø ÓÖÛ Ö º



Ç Ø Ò¸
ÓÙÒØ Ø Ü Ø× ÓÚ Ö ×Ô Ö× ÓÒ Û
× ÑÔÐÝ Ñ Ò× Ø Ø





V (y) > E(y).



Á Ø × × Ø
× ¸ ×ÓÐÙØ ÓÒ × ØÓ Ù× Ø Ò Ø Ú ÒÓÑ Ð ×ØÖ ÙØ ÓÒ Ö Ø Ö Ø Ò Ø



ÈÓ ××ÓÒº Ò ÐØ ÖÒ Ø Ú × ØÓ ÒØÖÓ Ù
Ð Ø ÒØ Ú Ö Ð Ø Ø Ö
Ø× Ø ÖÓ Ò ØÝ ÒØÓ



Ø ×Ô

Ø ÓÒ



λi = exp(Xi β + ηi )

Û Ö ηi × ×ÓÑ ×Ô
Ò× ØÝ Û Ø ×ÙÔÔÓÖØ S ´Ø × Ò× ØÝ Ñ Ý Ô Ò ÓÒ Ø ÓÒ Ð



Ô Ö Ñ Ø Ö×µº Ä Ø dµ(ηi ) Ø Ò× ØÝ Ó ηi . ÁÒ ×ÓÑ
× ×¸ Ø Ñ Ö Ò Ð Ò× ØÝ Ó y

exp [− exp(Xi β + ηi )] [exp(Xi β + ηi )]yi

Pr(y = yi ) = dµ(ηi )

S yi !

Û ÐÐ Ú
ÐÓ× ¹ ÓÖÑ ×ÓÐÙØ ÓÒ ´ÓÒ
Ò Ö Ú Ø Ò Ø Ú ÒÓÑ Ð ×ØÖ ÙØ ÓÒ Ò Ø



Û Ý η × Ò ÜÔÓÒ ÒØ Ð ×ØÖ ÙØ ÓÒµ¸ ÙØ Ó Ø Ò Ø × Û ÐÐ ÒÓØ ÔÓ×× Ð º ÁÒ Ø ×
× ¸



× ÑÙÐ Ø ÓÒ × Ñ Ò× Ó
Ð
ÙÐ Ø Ò Pr(y = i), Û
× Ø Ò Ù× ØÓ Ó ÅÄ ×Ø Ñ Ø ÓÒº



Ì × ÛÓÙÐ Ò Ü ÑÔÐ Ó Ø Ë ÑÙÐ Ø Å Ü ÑÙÑ Ä Ð ÓÓ ´ËÅĵ ×Ø Ñ Ø ÓÒº



• ÁÒ Ø ×
× ¸ × Ò
Ø Ö × ÓÒÐÝ ÓÒ Ð Ø ÒØ Ú Ö Ð ¸ ÕÙ Ö ØÙÖ × ÔÖÓ ÐÝ



ØØ Ö
Ó
º ÀÓÛ Ú Ö¸ ÑÓÖ Ü Ð ÑÓ Ð Û Ø Ø ÖÓ Ò ØÝ ÛÓÙÐ ÐÐÓÛ ÐÐ



Ô Ö Ñ Ø Ö× ´ÒÓØ Ù×Ø Ø
ÓÒ×Ø Òص ØÓ Ú Öݺ ÓÖ Ü ÑÔÐ



exp [− exp(Xi βi )] [exp(Xi βi )]yi

Pr(y = yi ) = dµ(βi )

S yi !

ÒØ Ð× K = dim βi ¹ Ñ Ò× ÓÒ Ð ÒØ Ö Ð¸ Û
Û ÐÐ ÒÓØ Ú ÐÙ Ð Ý ÕÙ ¹



Ö ØÙÖ Û Ò K Ø× Ð Ö º







½º¿º ×Ø Ñ Ø ÓÒ Ó ÑÓ Ð× ×Ô
Ò Ø ÖÑ× Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ ¹

Ø ÓÒ׺ ÁØ × Ó Ø Ò
ÓÒÚ Ò ÒØ ØÓ ÓÖÑÙÐ Ø ÑÓ Ð× Ò Ø ÖÑ× Ó
ÓÒØ ÒÙÓÙ× Ø Ñ Ù× Ò ¹



Ö ÒØ Ð ÕÙ Ø ÓÒ׺ Ö Ð ×Ø
ÑÓ Ð × ÓÙÐ

ÓÙÒØ ÓÖ ÜÓ ÒÓÙ× × Ó
× ØÓ Ø ×Ý×Ø Ñ¸



Û

Ò ÓÒ Ý ××ÙÑ Ò Ö Ò ÓÑ
ÓÑÔÓÒ Òغ Ì × Ð × ØÓ ÑÓ Ð Ø Ø ×



ÜÔÖ ×× × ×Ý×Ø Ñ Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ׺ ÓÒ× Ö Ø ÔÖÓ
××





dyt = g(θ, yt )dt + h(θ, yt )dWt



Û
× ××ÙÑ ØÓ ×Ø Ø ÓÒ Öݺ {Wt } × ×Ø Ò Ö ÖÓÛÒ Ò ÑÓØ ÓÒ ´Ï Ò Ö ÔÖÓ
××µ¸



×Ù
Ø Ø

T

W (T ) = dWt ∼ N (0, T )

0

ÖÓÛÒ Ò ÑÓØ ÓÒ ×
ÓÒØ ÒÙÓÙ×¹Ø Ñ ×ØÓ
×Ø
ÔÖÓ
×× ×Ù
Ø Ø



• W (0) = 0

• [W (s) − W (t)] ∼ N (0, s − t)

• [W (s) − W (t)] Ò [W (j) − W (k)] Ö Ò Ô Ò ÒØ ÓÖ s > t > j > k. Ì Ø ×¸



ÒÓÒ¹ÓÚ ÖÐ ÔÔ Ò × Ñ ÒØ× Ö Ò Ô Ò Òغ

¾º ËÁÅÍÄ Ì Å ÁÅÍÅ ÄÁà ÄÁÀÇÇ ´ËÅĵ ¾ ¼







ÇÒ
Ò Ø Ò Ó ÖÓÛÒ Ò ÑÓØ ÓÒ Ø

ÙÑÙÐ Ø ÓÒ Ó Ò Ô Ò ÒØ ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ



× Ó
× Û Ø Ò Ò Ø × Ñ Ð Ú Ö Ò
º





• Ì ÙÒ
Ø ÓÒ g(θ, yt ) × Ø Ø ÖÑ Ò ×Ø
Ô Öغ



• h(θ, yt ) Ø ÖÑ Ò × Ø Ú Ö Ò
Ó Ø × Ó
׺





ÌÓ ×Ø Ñ Ø ÑÓ ÐÓ Ø × ×ÓÖظ Û ØÝÔ
ÐÐÝ Ú Ø Ø Ø Ö ××ÙÑ ØÓ Ó × ÖÚ Ø ÓÒ×



Ó yt Ò ×
Ö Ø ÔÓ ÒØ× y1 , y2 , ...yT . Ì Ø ×¸ Ø ÓÙ yt ×
ÓÒØ ÒÙÓÙ× ÔÖÓ
×× Ø × Ó × ÖÚ



Ò ×
Ö Ø Ø Ñ º



ÌÓ Ô Ö ÓÖÑ Ò Ö Ò
ÓÒ θ, Ö
Ø ÅÄ ÓÖ ÅÅ ×Ø Ñ Ø ÓÒ × ÒÓØ Ù×Ù ÐÐÝ × Ð ¸




Ù× ÓÒ
ÒÒÓظ Ò Ò Ö Ð¸ Ù
Ø ØÖ Ò× Ø ÓÒ Ò× ØÝ f (yt |yt−1 , θ). Ì × Ò× ØÝ ×



Ò
×× ÖÝ ØÓ Ú ÐÙ Ø Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ ÓÖ ØÓ Ú ÐÙ Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× ´Û
Ö



× ÙÔÓÒ ÜÔ
Ø Ø ÓÒ× Û Ø Ö ×Ô
Ø ØÓ Ø × Ò× Øݵº





• ØÝÔ
Ð ×ÓÐÙØ ÓÒ × ØÓ ×
Ö Ø Þ Ø ÑÓ Ð¸ ÝÛ
Û Ñ Ò ØÓ Ò ×
Ö Ø



Ø Ñ ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ Ø ÑÓ Ðº Ì ×
Ö Ø Þ Ú Ö× ÓÒ Ó Ø ÑÓ Ð ×





yt − yt−1 = g(φ, yt−1 ) + h(φ, yt−1 )εt

εt ∼ N (0, 1)



Ì ×
Ö Ø Þ Ø ÓÒ Ò Ù
× Ò Û Ô Ö Ñ Ø Ö¸ φ ´Ø Ø ×¸ Ø φ0 Û
Ò ×



Ø ×Ø ÔÔÖÓÜ Ñ Ø ÓÒ Ó Ø ×
Ö Ø Þ Ø ÓÒ ØÓ Ø
ØÙ Ð ´ÙÒ ÒÓÛÒµ ×
Ö Ø



Ø Ñ Ú Ö× ÓÒ Ó Ø ÑÓ Ð × ÒÓØ

0

ÕÙ Ð ØÓ θ Û
× Ø ØÖÙ Ô Ö Ñ Ø Ö Ú ÐÙ µº



Ì × × Ò ÔÔÖÓÜ Ñ Ø ÓÒ¸ Ò × ×Ù
ÅÄ ×Ø Ñ Ø ÓÒ Ó φ ´Û
×
ØÙ ÐÐÝ



ÕÙ × ¹Ñ Ü ÑÙÑ Ð Ð ÓÓ ¸ ÉÅĵ × ÙÔÓÒ Ø × ÕÙ Ø ÓÒ × Ò Ò Ö Ð ×



Ò Ò
ÓÒ× ×Ø ÒØ ÓÖ Ø ÓÖ Ò Ð Ô Ö Ñ Ø Ö¸ θº Æ Ú ÖØ Ð ×׸ Ø ÔÔÖÓÜ Ñ Ø ÓÒ



× ÓÙÐ Ò³Ø ØÓÓ ¸ Û
Û ÐÐ Ù× Ùи × Û Û ÐÐ × º



• Ì ÑÔÓÖØ ÒØ ÔÓ ÒØ ÓÙØ Ø × Ø Ö Ü ÑÔÐ × × Ø Ø
ÓÑÔÙØ Ø ÓÒ Ð
ÙÐØ ×



ÔÖ Ú ÒØ Ö
Ø ÔÔÐ
Ø ÓÒ Ó Åĸ ÅŸ Ø
º Æ Ú ÖØ Ð ×× Ø ÑÓ Ð × ÙÐÐÝ



×Ô
Ò ÔÖÓ Ð ×Ø
Ø ÖÑ× ÙÔ ØÓ Ô Ö Ñ Ø Ö Ú
ØÓÖº Ì × Ñ Ò× Ø Ø Ø



ÑÓ Ð × × ÑÙÐ Ð ¸
ÓÒ Ø ÓÒ Ð ÓÒ Ø Ô Ö Ñ Ø Ö Ú
ØÓÖº









¾º Ë ÑÙÐ Ø Ñ Ü ÑÙÑ Ð Ð ÓÓ ´ËÅĵ

ÓÖ × ÑÔÐ
Øݸ
ÓÒ× Ö
ÖÓ××¹×
Ø ÓÒ Ð Ø º Ò ÅÄ ×Ø Ñ ØÓÖ ×ÓÐÚ ×

n

ˆ 1

θM L = arg max sn (θ) = ln p(yt |Xt , θ)

n

t=1



Û Ö p(yt |Xt , θ) × Ø Ò× ØÝ ÙÒ
Ø ÓÒ Ó Ø tth Ó × ÖÚ Ø ÓÒº Ï Ò p(yt |Xt , θ) Ó × ÒÓØ



Ú ÒÓÛÒ
ÐÓ× ÓÖѸ ˆ

θM L × Ò Ò × Ð ×Ø Ñ ØÓÖº ÀÓÛ Ú Ö¸ Ø Ñ Ý ÔÓ×× Ð ØÓ



Ò Ö Ò ÓÑ ÙÒ
Ø ÓÒ ×Ù
Ø Ø





Eν f (ν, yt , Xt , θ) = p(yt |Xt , θ)



Û Ö Ø Ò× ØÝ Ó ν × ÒÓÛÒº Á Ø × × Ø
× ¸ Ø × ÑÙÐ ØÓÖ



H

1

˜

p (yt , Xt , θ) = f (νts , yt , Xt , θ)

H s=1



× ÙÒ × ÓÖ p(yt |Xt , θ).

¾º ËÁÅÍÄ Ì Å ÁÅÍÅ ÄÁà ÄÁÀÇÇ ´ËÅĵ ¾ ½







• Ì ËÅÄ × ÑÔÐÝ ×Ù ×Ø ØÙØ × ˜

p (yt , Xt , θ) Ò ÔÐ
Ó p(yt |Xt , θ) ÒØ ÐÓ ¹Ð Ð ÓÓ



ÙÒ
Ø ÓÒ¸ Ø Ø ×



n

ˆ 1

θSM L = arg max sn (θ) = ˜

ln p (yt , Xt , θ)

n

i=1



¾º½º Ü ÑÔÐ ÑÙÐØ ÒÓÑ Ð ÔÖÓ Øº Ê
ÐÐ Ø Ø Ø ÙØ Ð ØÝ Ó ÐØ ÖÒ Ø Ú j ×





uj = Xj β + εj



Ò Ø Ú
ØÓÖ y × ÓÖÑ Ó Ð Ñ ÒØ×





yj = 1 [uj > uk , k ∈ m, k = j]



Ì ÔÖÓ Ð Ñ × Ø Ø Pr(yj = 1|θ)
Ò³Ø
Ð
ÙÐ Ø Û Ò m ×Ð Ö ÖØ Ò ÓÖ º ÀÓÛ Ú Ö¸



Ø × ×Ý ØÓ × ÑÙÐ Ø Ø × ÔÖÓ Ð Øݺ



• Ö Û ˜

εi ÖÓÑ Ø N (0, Ω) ×ØÖ ÙØ ÓÒ



• ˜ ˜

Ð
ÙÐ Ø ui = Xi β + εi ´Û Ö Xi × Ø Ñ ØÖ Ü ÓÖÑ Ý ×Ø
Ò Ø Xij )

• ˜

Ò yij = 1 [uij > uik , ∀k ∈ m, k = j]



• Ê Ô Ø Ø × H Ø Ñ × Ò Ò



H

˜

h=1 yijh

πij =

H

• Ò πi × Ø m¹Ú
ØÓÖ ÓÖÑ Ó Ø πij º
Ð Ñ ÒØ Ó πi × ØÛ Ò ¼ Ò



½¸ Ò Ø Ð Ñ ÒØ× ×ÙÑ ØÓ ÓÒ º



• ÆÓÛ ˜ ′

p (yi , Xi , θ) = yi πi

• Ì ËÅÄ ÑÙÐØ ÒÓÑ Ð ÔÖÓ Ø ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ ×

n

1 ′

ln L(β, Ω) = ˜

yi ln p (yi , Xi , θ)

n

i=1



Ì × × ØÓ Ñ Ü Ñ Þ ÛºÖºØº β Ò Ω.

ÆÓØ ×

• Ì H Ö Û× Ó εi

˜ Ö Ö Û ÓÒÐÝ ÓÒ
Ò Ö Ù× Ö Ô Ø ÐÝ ÙÖ Ò Ø Ø Ö Ø ÓÒ×



Ù× ØÓ Ò ˆ

β Ò ˆ

Ω. Ì Ö Û× Ö Ö ÒØ ÓÖ
i. Á Ø ˜

εi Ö Ö ¹ Ö ÛÒ Ø



Ú ÖÝ Ø Ö Ø ÓÒ Ø ×Ø Ñ ØÓÖ Û ÐÐ ÒÓØ
ÓÒÚ Ö º



• Ì ÐÓ ¹Ð Ð ÓÓ ÙÒ
Ø ÓÒ Û Ø Ø × × ÑÙÐ ØÓÖ × ×
ÓÒØ ÒÙÓÙ× ÙÒ
Ø ÓÒ Ó β

Ò Ω. Ì × Ó × ÒÓØ
Ù× ÔÖÓ Ð Ñ× ÖÓÑ Ø ÓÖ Ø
Ð ÔÓ ÒØ Ó Ú Û × Ò
Ø
Ò



× ÓÛÒ Ø Ø ln L(β, Ω) × ×ØÓ
×Ø
ÐÐÝ ÕÙ
ÓÒØ ÒÙÓÙ׺ ÀÓÛ Ú Ö¸ Ø Ó ×
Ù×



ÔÖÓ Ð Ñ× ÓÒ ØØ ÑÔØ× ØÓ Ù× Ö Òع × ÓÔØ Ñ Þ Ø ÓÒ Ñ Ø Ó ×Ù
×



Æ ÛØÓÒ¹Ê Ô ×ÓÒº



• ÁØ Ñ Ý Ø
× ¸ Ô ÖØ
ÙÐ ÖÐÝ Û × ÑÙÐ Ø ÓÒ׸ H¸ Ö Ù× ¸Ø Ø ×ÓÑ Ð Ñ ÒØ×



Ó πi Ö Þ ÖÓº Á Ø
ÓÖÖ ×ÔÓÒ Ò Ð Ñ ÒØ Ó yi × ÕÙ Ð ØÓ ½¸ Ø Ö Û ÐÐ



log(0) ÔÖÓ Ð Ñº



• ËÓÐÙØ ÓÒ× ØÓ ×
ÓÒØ ÒÙ ØÝ



½µ Ù× Ò ×Ø Ñ Ø ÓÒ Ñ Ø Ó Ø Ø Ó ×Ò³Ø Ö ÕÙ Ö
ÓÒØ ÒÙÓÙ× Ò Ö Ò¹



Ø Ð Ó
Ø Ú ÙÒ
Ø ÓÒ¸ ÓÖ Ü ÑÔÐ ¸ × ÑÙÐ Ø ÒÒ Ð Ò º Ì × ×
ÓÑÔÙ¹



Ø Ø ÓÒ ÐÐÝ
Ó×ØÐݺ



¾µ ËÑÓÓØ Ø × ÑÙÐ Ø ÔÖÓ Ð Ø × ×Ó Ø Ø Ø Ý Ö
ÓÒØ ÒÙÓÙ× ÙÒ
Ø ÓÒ×



Ó Ø Ô Ö Ñ Ø Ö׺ ÓÖ Ü ÑÔÐ ¸ ÔÔÐÝ ÖÒ Ð ØÖ Ò× ÓÖÑ Ø ÓÒ ×Ù
×



m m

˜

yij = Φ A × uij − max uik + .5 × 1 uij = max uik

k=1 k=1

¿º Å ÌÀÇ Ç ËÁÅÍÄ Ì ÅÇÅ ÆÌË ´ÅËŵ ¾ ¾







Û Ö A × Ð Ö ÔÓ× Ø Ú ÒÙÑ Öº Ì × ÔÔÖÓÜ Ñ Ø × ×Ø Ô ÙÒ
Ø ÓÒ ×Ù




Ø Ø ˜

yij × Ú ÖÝ
ÐÓ× ØÓ Þ ÖÓ uij × ÒÓØ Ø Ñ Ü ÑÙѸ Ò uij = 1 Ø



× Ø Ñ Ü ÑÙѺ Ì × Ñ × ˜

yij
ÓÒØ ÒÙÓÙ× ÙÒ
Ø ÓÒ Ó β Ò Ω, ×Ó Ø Ø



˜

pij Ò Ø Ö ÓÖ ln L(β, Ω) Û ÐÐ
ÓÒØ ÒÙÓÙ× Ò Ö ÒØ Ð º ÓÒ× ×¹

p

Ø Ò
Ý Ö ÕÙ Ö × Ø Ø A(n) → ∞, ×Ó Ø Ø Ø ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ ×Ø Ô ÙÒ
Ø ÓÒ




ÓÑ × Ö ØÖ Ö ÐÝ
ÐÓ× × Ø × ÑÔÐ × Þ Ò
Ö × ×º Ì Ö Ö ÐØ ÖÒ ¹



Ø Ú Ñ Ø Ó × ´ º º¸ × × ÑÔÐ Ò µ Ø Ø Ñ Ý ÛÓÖ ØØ Ö¸ ÙØ Ø × × ØÓÓ



Ø
Ò
Ð ØÓ ×
Ù×× Ö º



• ÌÓ ×ÓÐÚ ØÓ ÐÓ ´¼µ ÔÖÓ Ð Ñ¸ ÓÒ ÔÓ×× Ð ØÝ × ØÓ × Ö
Ø Û ÓÖ Ø ×ÐÓ ÙÒ
Ø ÓÒº



Ð×Ó¸ Ò
Ö × H Ø × × × Ö ÓÙ× ÔÖÓ Ð Ñº







¾º¾º ÈÖÓÔ ÖØ ×º Ì ÔÖÓÔ ÖØ × Ó Ø ËÅÄ ×Ø Ñ ØÓÖ Ô Ò ÓÒ ÓÛ H × × Øº Ì



ÓÐÐÓÛ Ò × Ø Ò ÖÓÑ Ä ´½ µ ×ÝÑÔØÓØ
× Ò Ë ÑÙÐ Ø Å Ü ÑÙÑ Ä Ð ÓÓ



×Ø Ñ Ø ÓÒ Ó ×
Ö Ø Ó
ÅÓ Ð׸
ÓÒÓÑ ØÖ
Ì ÓÖݸ ½½¸ ÔÔº ¿ ¹ ¿º





Ì ÓÖ Ñ ¿¾º Ä ℄ ½µ limn→∞ n1/2 /H = 0, Ø Ò

√ d

ˆ

n θSM L − θ 0 → N (0, I −1 (θ 0 ))



¾µ limn→∞ n1/2 /H = λ, λ Ò Ø
ÓÒ×Ø Òظ Ø Ò



√ d

ˆ

n θSM L − θ 0 → N (B, I −1 (θ 0 ))



Û Ö B × Ò Ø Ú
ØÓÖ Ó
ÓÒ×Ø ÒØ׺





• Ì × Ñ Ò× Ø Ø Ø ËÅÄ ×Ø Ñ ØÓÖ × ×ÝÑÔØÓØ
ÐÐÝ × H Ó ×Ò³Ø ÖÓÛ



×Ø Ö Ø Ò n

1/2 .



• Ì Ú Ö
ÓÚ × Ø ØÝÔ
Ð ÒÚ Ö× Ó Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü¸ ×Ó Ø Ø × ÐÓÒ × H

ÖÓÛ× ×Ø ÒÓÙ Ø ×Ø Ñ ØÓÖ ×
ÓÒ× ×Ø ÒØ Ò ÙÐÐÝ ×ÝÑÔØÓØ
ÐÐÝ
Òغ









¿º Å Ø Ó Ó × ÑÙÐ Ø ÑÓÑ ÒØ× ´ÅËŵ

ËÙÔÔÓ× Û Ú È(y|x, θ) Û
× × ÑÙÐ Ð Ú Ò θ¸ ÙØ × ×Ù
Ø Ø Ø Ò× ØÝ



Ó y × ÒÓØ
Ð
ÙÐ Ð º



ÇÒ

ÓÙÐ ¸ Ò ÔÖ Ò
ÔÐ ¸ × ÅÅ ×Ø Ñ ØÓÖ ÙÔÓÒ Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×





mt (θ) = [K(yt , xt ) − k(xt , θ)] zt



Û Ö



k(xt , θ) = K(yt , xt )p(y|xt , θ)dy,



zt × Ú
ØÓÖ Ó Ò×ØÖÙÑ ÒØ× Ò Ø Ò ÓÖÑ Ø ÓÒ × Ø Ò p(y|xt , θ) × Ø Ò× ØÝ Ó y


ÓÒ Ø ÓÒ Ð ÓÒ xt . Ì ÔÖÓ Ð Ñ × Ø Ø Ø × Ò× ØÝ × ÒÓØ Ú Ð Ð º



• ÀÓÛ Ú Ö k(xt , θ) × Ö ÐÝ × ÑÙÐ Ø Ù× Ò



H

1 h

k (xt , θ) = K(yt , xt )

H

h=1

a.s.

• Ý Ø Ð Û Ó Ð Ö ÒÙÑ Ö׸ k (xt , θ) → k (xt , θ) , × H → ∞, Û
ÔÖÓÚ ×




Ð Ö ÒØÙ Ø Ú × × ÓÖ Ø ×Ø Ñ ØÓÖ¸ Ø ÓÙ Ò
Ø Û Ó Ø Ò
ÓÒ× ×Ø Ò
Ý Ú Ò



ÓÖ H Ò Ø ¸ × Ò
Ð ÛÓ Ð Ö ÒÙÑ Ö× × Ð×Ó ÓÔ Ö Ø Ò
ÖÓ×× Ø nÓ × ÖÚ Ø ÓÒ×



Ó Ö Ð Ø ¸ ×Ó ÖÖÓÖ× ÒØÖÓ Ù
Ý × ÑÙÐ Ø ÓÒ
Ò
Ð Ø Ñ× ÐÚ × ÓÙغ

¿º Å ÌÀÇ Ç ËÁÅÍÄ Ì ÅÇÅ ÆÌË ´ÅËŵ ¾ ¿







• Ì × ÐÐÓÛ× Ù× ØÓ ÓÖÑ Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×





´ µ mt (θ) = K(yt , xt ) − k (xt , θ) zt



Û Ö zt × Ö ÛÒ ÖÓÑ Ø Ò ÓÖÑ Ø ÓÒ × Øº × ÓÖ ¸ ÓÖÑ



n

1

m(θ) = mt (θ)

n

i=1

n H

1 1 h

´ µ = K(yt , xt ) − k(yt , xt ) zt

n H

i=1 h=1



Û Ø Û
Û ÓÖÑ Ø ÅÅ
Ö Ø Ö ÓÒ Ò ×Ø Ñ Ø × Ù×٠к ÆÓØ Ø Ø Ø



ÙÒ ×

h

× ÑÙÐ ØÓÖ k(yt , xt ) ÔÔ Ö× Ð Ò ÖÐÝ Û Ø Ò Ø ×ÙÑ׺







¿º½º ÈÖÓÔ ÖØ ×º ËÙÔÔÓ× Ø Ø Ø ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü × Ù× º Å
Ò ´Ö º



ÓÚ µ Ò È × Ò ÈÓÐÐ Ö ´Ö ׺ ÓÚ µ × ÓÛ Ø Ø Ø ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ Ó Ø



ÅËÅ ×Ø Ñ ØÓÖ × Ú ÖÝ × Ñ Ð Ö ØÓ Ø Ø Ó Ø Ò × Ð ÅÅ ×Ø Ñ ØÓÖº ÁÒ Ô ÖØ
ÙÐ Ö¸



××ÙÑ Ò Ø Ø Ø ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü × Ù× ¸ Ò ÓÖ H Ò Ø ¸



√ d 1 −1

´ ¼µ ˆ

n θM SM − θ 0 → N 0, 1 + ′

D∞ Ω−1 D∞

H

−1

Û Ö

′

D∞ Ω−1 D∞ × Ø ×ÝÑÔØÓØ
Ú Ö Ò
Ó Ø Ò × Ð ÅÅ ×Ø Ñ ØÓÖº



• Ì Ø ×¸ Ø ×ÝÑÔØÓØ
Ú Ö Ò
× Ò Ø Ý
ØÓÖ 1 + 1/H. ÓÖ Ø × Ö ×ÓÒ



Ø ÅËÅ ×Ø Ñ ØÓÖ × ÒÓØ ÙÐÐÝ ×ÝÑÔØÓØ
ÐÐÝ
ÒØ Ö Ð Ø Ú ØÓ Ø Ò × Ð



ÅÅ ×Ø Ñ ØÓÖ¸ ÓÖ H Ò Ø ¸ ÙØ Ø
Ò
Ý ÐÓ×× × ×Ñ ÐÐ Ò
ÓÒØÖÓÐÐ Ð ¸ Ý



× ØØ Ò H Ö ×ÓÒ ÐÝ Ð Ö º



• Ì ×Ø Ñ ØÓÖ × ×ÝÑÔØÓØ
ÐÐÝ ÙÒ × Ú Ò ÓÖ H = 1. Ì × × Ò Ú ÒØ



Ö Ð Ø Ú ØÓ ËÅĺ



• Á ÓÒ Ó ×Ò³Ø Ù× Ø ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü¸ Ø ×ÝÑÔØÓØ
Ú Ö
ÓÚ × Ù×Ø Ø



ÓÖ Ò ÖÝ ÅÅ Ú Ö
ÓÚ¸ Ò Ø Ý 1 + 1/H.

• Ì ÓÚ ÔÖ × ÒØ Ø ÓÒ × Ò Ø ÖÑ× Ó ×Ô

ÑÓÑ ÒØ
ÓÒ Ø ÓÒ × ÙÔÓÒ Ø




ÓÒ Ø ÓÒ Ð Ñ Òº Ë ÑÙÐ Ø ÅÅ
Ò ÔÔÐ ØÓ ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ó ÒÝ



ÓÖѺ







¿º¾º ÓÑÑ ÒØ׺ Ï Ý × ËÅÄ Ò
ÓÒ× ×Ø ÒØ H × Ò Ø ¸Û Ð ÅËÅ × Ì Ö ×ÓÒ ×



Ø Ø ËÅÄ × × ÙÔÓÒ Ò Ú Ö Ó ÐÓ Ö Ø Ñ× Ó Ò ÙÒ × × ÑÙÐ ØÓÖ ´Ø Ò× Ø ×



Ó Ø Ó × ÖÚ Ø ÓÒ×µº ÌÓ Ù× Ø ÑÙÐØ ÒÓÑ Ð ÔÖÓ Ø ÑÓ Ð × Ò Ü ÑÔÐ ¸ Ø ÐÓ ¹Ð Ð ÓÓ



ÙÒ
Ø ÓÒ ×

n

1 ′

ln L(β, Ω) = yi ln pi (β, Ω)

n

i=1

Ì ËÅÄ Ú Ö× ÓÒ ×

n

1 ′

ln L(β, Ω) = ˜

yi ln pi (β, Ω)

n

i=1

Ì ÔÖÓ Ð Ñ × Ø Ø



p ˜

E ln(˜i (β, Ω)) = ln(E pi (β, Ω))

Ò ×Ô Ø Ó Ø
Ø Ø Ø



˜

E pi (β, Ω) = pi (β, Ω)

Ù ØÓ Ø
Ø Ø Ø ln(·) × ÒÓÒÐ Ò Ö ØÖ Ò× ÓÖÑ Ø ÓÒº Ì ÓÒÐÝ Û Ý ÓÖ Ø ØÛÓ ØÓ



ÕÙ Ð ´ Ò Ø Ð Ñ Øµ × H Ø Ò × ØÓ Ò Ò Ø ×Ó Ø Ø p (·)

˜ Ø Ò × ØÓ p (·)º

º Á Á ÆÌ Å ÌÀÇ Ç ÅÇÅ ÆÌË ´ Åŵ ¾







Ì Ö ×ÓÒ Ø Ø ÅËÅ Ó × ÒÓØ ×Ù Ö ÖÓÑ Ø × ÔÖÓ Ð Ñ × Ø Ø ÒØ ×
× Ø ÙÒ ×



× ÑÙÐ ØÓÖ ÔÔ Ö× Ð Ò ÖÐÝ Û Ø Ò Ú ÖÝ ×ÙÑ Ó Ø ÖÑ׸ Ò Ø ÔÔ Ö× Û Ø Ò ×ÙÑ ÓÚ Ö



n ´× ÕÙ Ø ÓÒ ℄µº Ì Ö ÓÖ Ø ËÄÄÆ ÔÔÐ × ØÓ
Ò
Ð ÓÙØ × ÑÙÐ Ø ÓÒ ÖÖÓÖ׸ ÖÓÑ



Û
Û Ø
ÓÒ× ×Ø Ò
ݺ Ì Ø ×¸ Ù× Ò × ÑÔÐ ÒÓØ Ø ÓÒ ÓÖ Ø Ö Ò ÓÑ × ÑÔÐ Ò
× ¸



Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×

n H

1 1 h

´ ½µ ˜

m(θ) = K(yt , xt ) − k(yt , xt ) zt

n H

i=1 h=1

n H

1 0 1

´ ¾µ = k(xt , θ ) + εt − ˜

[k(xt , θ) + εht ] zt

n H

i=1 h=1




ÓÒÚ Ö ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ





m∞ (θ) =

˜ k(x, θ 0 ) − k(x, θ) z(x)dµ(x).



´ÒÓØ zt × ××ÙÑ ØÓ Ñ ÙÔ Ó ÙÒ
Ø ÓÒ× Ó xt ). Ì Ó
Ø Ú ÙÒ
Ø ÓÒ
ÓÒÚ Ö × ØÓ





s∞ (θ) = m∞ (θ)′ Ω−1 m∞ (θ)

˜ ∞ ˜



Û
Ó Ú ÓÙ×ÐÝ × Ñ Ò ÑÙÑ Ø θ0, Ò
ÓÖØ
ÓÒ× ×Ø Ò
ݺ





• Á ÝÓÙ ÐÓÓ Ø ÕÙ Ø ÓÒ ¾ ظ ÝÓÙ Û ÐÐ × Û Ý Ø Ú Ö Ò
Ò Ø ÓÒ
ØÓÖ ×

1

(1 + H )º









º
ÒØ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ

Ì
Ó
Ó Û
ÑÓÑ ÒØ× ÙÔÓÒ Û
ØÓ × ÅÅ ×Ø Ñ ØÓÖ
Ò Ú Ú ÖÝ



ÔÖÓÒÓÙÒ

Ø× ÙÔÓÒ Ø
Ò
Ý Ó Ø ×Ø Ñ ØÓÖº





• ÔÓÓÖ
Ó
Ó ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ñ Ý Ð ØÓ Ú ÖÝ Ò
ÒØ ×Ø Ñ ØÓÖ׸ Ò




Ò Ú Ò
Ù× ÒØ
Ø ÓÒ ÔÖÓ Ð Ñ× ´ × Û ³Ú × Ò Û Ø Ø ÅÅ ÔÖÓ Ð Ñ



× Øµº



• Ì Ö Û
Ó Ø ÓÚ ÔÔÖÓ
ÅËÅ × Ø Ø Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ù×



Ò ×Ø Ñ Ø ÓÒ Ö × Ð
Ø Ö ØÖ Ö Ðݺ Ì ×ÝÑÔØÓØ

Ò
Ý Ó Ø ×Ø Ñ ØÓÖ



Ñ Ý ÐÓÛº



• Ì ×ÝÑÔØÓØ
ÐÐÝ ÓÔØ Ñ Ð
Ó
Ó ÑÓÑ ÒØ× ÛÓÙÐ Ø ×
ÓÖ Ú
ØÓÖ Ó Ø



Ð Ð ÓÓ ÙÒ
Ø ÓÒ¸



mt (θ) = Dθ ln pt (θ | It )

× ÓÖ ¸ Ø ×
Ó
× ÙÒ Ú Ð Ð º





Ì
ÒØ Ñ Ø Ó Ó ÑÓÑ ÒØ× ´ Åŵ ´× ÐÐ ÒØ Ò Ì Ù
Ò ´½ µ¸ Ï
ÅÓ¹



Ñ ÒØ× ØÓ Å Ø
¸ ÇÆÇÅ ÌÊÁ ÌÀ ÇÊ ¸ ÎÓк ½¾¸ ½ ¸ Ô × ¹ ½µ × × ØÓ



ÔÖÓÚ ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ø Ø
ÐÓ× ÐÝ Ñ Ñ
Ø ×
ÓÖ Ú
ØÓÖº Á Ø ÔÔÖÓÜ Ñ Ø ÓÒ ×



Ú ÖÝ ÓÓ ¸ Ø Ö ×ÙÐØ Ò ×Ø Ñ ØÓÖ Û ÐÐ Ú ÖÝ Ò ÖÐÝ ÙÐÐÝ
Òغ



Ì È ×
Ö
Ø Ö Þ Ý Ö Ò ÓÑ × ÑÔÐ Ò ÖÓÑ Ø Ò× ØÝ





p(yt |xt , θ 0 ) ≡ pt (θ 0 )



Ï
Ò Ò Ò ÙÜ Ð ÖÝ ÑÓ Ð¸
ÐÐ Ø ×
ÓÖ Ò Ö ØÓÖ ¸ Û
× ÑÔÐÝ ÔÖÓÚ ×



´Ñ ××Ô
µ Ô Ö Ñ ØÖ
Ò× ØÝ





f (y|xt , λ) ≡ ft (λ)

º Á Á ÆÌ Å ÌÀÇ Ç ÅÇÅ ÆÌË ´ Åŵ ¾







• Ì × Ò× ØÝ × ÒÓÛÒ ÙÔ ØÓ Ô Ö Ñ Ø Ö λ. Ï ××ÙÑ Ø Ø Ø × Ò× ØÝ ÙÒ
Ø ÓÒ



×
Ð
ÙÐ Ð º Ì Ö ÓÖ ÕÙ × ¹ÅÄ ×Ø Ñ Ø ÓÒ × ÔÓ×× Ð º ËÔ

ÐÐݸ



n

ˆ 1

λ = arg max sn (λ) = ln ft (λ).

Λ n t=1



• Ø Ö Ø ÖÑ Ò Ò ˆ

λ Û
Ò
Ð
ÙÐ Ø Ø ×
ÓÖ ÙÒ
Ø ÓÒ× ˆ

Dλ ln f (yt |xt , λ)º

• Ì ÑÔÓÖØ ÒØ ÔÓ ÒØ × Ø Ø Ú Ò Ø Ò× ØÝ × Ñ ××Ô
¸ Ø Ö × Ô× Ù Ó¹

0

ØÖÙ λ ÓÖ Û
Ø ØÖÙ ÜÔ
Ø Ø ÓÒ¸ Ø ÒÛ Ø Ö ×Ô
Ø ØÓ Ø ØÖÙ ÙØ ÙÒ ÒÓÛÒ



Ò× ØÝ Ó y, p(y|xt , θ 0 ), Ò Ø Ò Ñ Ö Ò Ð Þ ÓÚ Ö x × Þ ÖÓ





∃λ0 : EX EY |X Dλ ln f (y|x, λ0 ) = Dλ ln f (y|x, λ0 )p(y|x, θ 0 )dydµ(x) = 0

X Y |X



• Ï Ú × Ò Ò Ø ×
Ø ÓÒ ÓÒ ÉÅÄ Ø Ø ˆ p

λ → λ0 Ø × ×Ù ×Ø× Ù× Ò Ø ÑÓÑ ÒØ




ÓÒ Ø ÓÒ×

n

ˆ 1 ˆ

´ ¿µ mn (θ, λ) = Dλ ln ft (λ)pt (θ)dy

n t=1



• Ì × ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ö ÒÓØ
Ð
ÙÐ Ð ¸ × Ò
pt (θ) × ÒÓØ Ú Ð Ð ¸ ÙØ Ø Ý



Ö × ÑÙÐ Ð Ù× Ò



n H

ˆ 1 1 h ˆ

mn (θ, λ) = Dλ ln f (yt |xt , λ)

n t=1

H

h=1



Û Ö ˜h

yt × Ö Û ÖÓÑ DGP (θ), ÓÐ Ò xt Ü º Ý Ø ÄÄÆ Ò Ø
Ø Ø Ø

ˆ

λ
ÓÒÚ Ö

0

× ØÓ λ ¸



m∞ (θ 0 , λ0 ) = 0.

Ì × × ÒÓØ Ø
× ÓÖ ÓØ Ö Ú ÐÙ × Ó θ ¸ ××ÙÑ Ò Ø Ø λ0 × ÒØ º



• Ì Ú ÒØ Ó Ø × ÔÖÓ
ÙÖ ×Ø Ø f (yt |xt , λ)
ÐÓ× ÐÝ ÔÔÖÓÜ Ñ Ø × p(y|xt , θ),

Ø ˆ

Ò mn (θ, λ) Û ÐÐ
ÐÓ× ÐÝ ÔÔÖÓÜ Ñ Ø Ø ÓÔØ Ñ Ð ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Û

Ö¹




Ø Ö Þ Ñ Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ Ø ÓÒ¸ Û
× ÙÐÐÝ
Òغ



• Á ÓÒ × ÔÖ ÓÖ Ò ÓÖÑ Ø ÓÒ Ø Ø
ÖØ Ò Ò× ØÝ ÔÔÖÓÜ Ñ Ø × Ø Ø Û Ðи Ø



ÛÓÙÐ ÓÓ
Ó
ÓÖ f (·).

• Á ÓÒ × ÒÓ Ò× ØÝ Ò Ñ Ò ¸ Ø Ö Ü ×Ø ÓÓ Û Ý× Ó ÔÔÖÓÜ Ñ Ø Ò ÙÒ ÒÓÛÒ



×ØÖ ÙØ ÓÒ× Ô Ö Ñ ØÖ
ÐÐÝ È Ð Ô׳ Ê ³× ´
ÓÒÓÑ ØÖ
¸ ½ ¿µ Ò ÐÐ ÒØ



Ò ÆÝ
³× ´
ÓÒÓÑ ØÖ
¸ ½ µ ËÆÈ Ò× ØÝ ×Ø Ñ ØÓÖ Û
Û × Û ÓÖ º



Ë Ò
Ø ËÆÈ Ò× ØÝ ×
ÓÒ× ×Ø Òظ Ø
Ò
Ý Ó Ø Ò Ö
Ø ×Ø Ñ ØÓÖ × Ø



× Ñ × Ø Ò × Ð ÅÄ ×Ø Ñ ØÓÖº





º½º ÇÔØ Ñ Ð Û Ø Ò Ñ ØÖ Üº Á Û ÐÐ ÔÖ × ÒØ Ø Ø ÓÖÝ ÓÖ H Ò Ø ¸ Ò ÔÓ×× ÐÝ



×Ñ Ðк Ì × × ÓÒ
Ù× Ø × ×ÓÑ Ø Ñ × ÑÔÖ
Ø
Ð ØÓ ×Ø Ñ Ø Û Ø H Ú ÖÝ Ð Ö º



ÐÐ ÒØ Ò Ì Ù
Ò Ú Ø Ø ÓÖÝ ÓÖ Ø
× Ó H ×Ó Ð Ö Ø Ø Ø Ñ Ý ØÖ Ø ×



Ò Ò Ø ´Ø Ö Ò
Ò ÖÖ Ð Ú ÒØ Ú Ò Ø ÒÙÑ Ö
Ð ÔÖ
× ÓÒ Ó
ÓÑÔÙØ Öµº Ì



Ø ÓÖÝ ÓÖ Ø
× Ó H Ò Ò Ø ÓÐÐÓÛ× Ö
ØÐÝ ÖÓÑ Ø Ö ×ÙÐØ× ÔÖ × ÒØ Ö º



Ì ÑÓÑ ÒØ
ÓÒ Ø ÓÒ ˆ

m(θ, λ) Ô Ò × ÓÒ Ø Ô× Ù Ó¹ÅÄ ×Ø Ñ Ø ˆ

λ. Ï
Ò ÔÔÐÝ



Ì ÓÖ Ñ ¾¾ ØÓ
ÓÒ
ÐÙ Ø Ø

√ d

´ µ ˆ

n λ − λ0 → N 0, J (λ0 )−1 I(λ0 )J (λ0 )−1



Á Ø Ò× ØÝ ˆ

f (yt |xt , λ) Û Ö Ò
Ø Ø ØÖÙ Ò× ØÝ p(y|xt , θ), Ø Ò ˆ

λ ÛÓÙÐ Ø



Ñ Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ ØÓÖ¸ Ò J (λ0 )−1 I(λ0 ) ÛÓÙÐ Ò ÒØ ØÝ Ñ ØÖ Ü¸ Ù ØÓ Ø

º Á Á ÆÌ Å ÌÀÇ Ç ÅÇÅ ÆÌË ´ Åŵ ¾









Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ÕÙ Ð Øݺ ÀÓÛ Ú Ö¸ Ò Ø ÔÖ × ÒØ
× Û ××ÙÑ Ø Ø ˆ

f (yt|xt , λ) ×



ÓÒÐÝ Ò ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ p(y|xt , θ), ×Ó Ø Ö × ÒÓ
Ò
ÐÐ Ø ÓÒº

0 ∂2

Ê
ÐÐ Ø Ø J (λ ) ≡ p lim ∂λ∂λ′ sn (λ0 ) . ÓÑÔ Ö Ò Ø Ò Ø ÓÒ Ó sn (λ) Û Ø Ø



Ò Ø ÓÒ Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ Ò ÕÙ Ø ÓÒ ¿¸ Û × Ø Ø





J (λ0 ) = Dλ′ m(θ 0 , λ0 ).



× Ò Ì ÓÖ Ñ ¾¾¸

∂sn (λ) ∂sn (λ)

I(λ0 ) = lim E n .

n→∞ ∂λ λ0 ∂λ′ λ0

ÁÒ Ø ×
× ¸ Ø × × × ÑÔÐÝ Ø ×ÝÑÔØÓØ
Ú Ö Ò

ÓÚ Ö Ò
Ñ ØÖ Ü Ó Ø ÑÓÑ ÒØ

√ ˆ


ÓÒ Ø ÓÒ׸ Ω. ÆÓÛ Ø Ö×Ø ÓÖ Ö Ì ÝÐÓÖ³× × Ö × ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ nmn (θ 0 , λ) ÓÙØ



λ0



√ √ √

ˆ ˆ

nmn (θ 0 , λ) = nmn (θ 0 , λ0 ) + nDλ′ m(θ 0 , λ0 ) λ − λ0 + op (1)

˜ ˜ ˜

√

Ö×Ø
ÓÒ× Ö nmn (θ 0 , λ0 )º ÁØ × ×ØÖ

˜ Ø ÓÖÛ Ö ÙØ ×ÓÑ Û Ø Ø ÓÙ× ØÓ × ÓÛ Ø Ø

1 0 )º

Ø ×ÝÑÔØÓØ
Ú Ö Ò
Ó Ø × Ø ÖÑ ×

H I∞ (λ

√ ˆ a.s.

Æ ÜØ
ÓÒ× Ö Ø ×
ÓÒ Ø ÖÑ nDλ′ m(θ 0 , λ0 ) λ − λ0 º ÆÓØ Ø Ø Dλ′ mn (θ 0 , λ0 ) →

˜ ˜

J (λ0 ), ×Ó Û Ú



√ √

˜ ˆ

nDλ′ m(θ 0 , λ0 ) λ − λ0 = ˆ

nJ (λ0 ) λ − λ0 , a.s.



ÙØ ÒÓØ Ò ÕÙ Ø ÓÒ

√ a

ˆ

nJ (λ0 ) λ − λ0 ∼ N 0, I(λ0 )



ÆÓÛ¸
ÓÑ Ò Ò Ø Ö ×ÙÐØ× ÓÖ Ø Ö×Ø Ò ×
ÓÒ Ø ÖÑ׸



√ 1

ˆ a

nmn (θ 0 , λ) ∼ N 0, 1 +

˜ I(λ0 )

H



ËÙÔÔÓ× Ø Ø I(λ0 ) ×
ÓÒ× ×Ø ÒØ ×Ø Ñ ØÓÖ Ó Ø ×ÝÑÔØÓØ
Ú Ö Ò
¹
ÓÚ Ö Ò
Ñ ØÖ Ü



Ó Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ׺ Ì × Ñ Ý
ÓÑÔÐ
Ø Ø ×
ÓÖ Ò Ö ØÓÖ × ÔÓÓÖ



ÔÔÖÓÜ Ñ ØÓÖ¸ × Ò
Ø Ò Ú Ù Ð ×
ÓÖ
ÓÒØÖ ÙØ ÓÒ× Ñ Ý ÒÓØ Ú Ñ Ò Þ ÖÓ Ò Ø ×
×



´× Ø ×
Ø ÓÒ ÓÒ ÉÅĵ º Ú Ò Ø × × Ø
× ¸ Ø Ò Ú Ù Ð× Ñ Ò×
Ò
Ð
ÙÐ Ø



Ý × ÑÙÐ Ø ÓÒ¸ ×Ó Ø × ÐÛ Ý× ÔÓ×× Ð ØÓ
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø I(λ0 ) Û Ò Ø ÑÓ Ð ×



× ÑÙÐ Ð º ÇÒ Ø ÓØ Ö Ò ¸ Ø ×
ÓÖ Ò Ö ØÓÖ × Ø Ò ØÓ
ÓÖÖ
ØÐÝ ×Ô
¸ Ø



ÓÖ Ò ÖÝ ×Ø Ñ ØÓÖ Ó Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü ×
ÓÒ× ×Ø Òغ ÓÑ Ò Ò Ø × Û Ø Ø Ö ×ÙÐØ



ÓÒ Ø
ÒØ ÅÅ Û Ø Ò Ñ ØÖ Ü Ò Ì ÓÖ Ñ ¾ ¸ Û × Ø Ø Ò Ò ˆ

θ ×



−1

ˆ ˆ 1 ˆ

θ = arg min mn (θ, λ)′ 1+ I(λ0 ) mn (θ, λ)

Θ H

× Ø ÅÅ ×Ø Ñ ØÓÖ Û Ø Ø
ÒØ
Ó
Ó Û Ø Ò Ñ ØÖ Üº









• Á ÓÒ × Ù× Ø ÐÐ ÒعÆÝ
ÅÄ ×Ø Ñ ØÓÖ × Ø ÙÜ Ð ÖÝ ÑÓ Ð¸ Ø



ÔÔÖÓÔÖ Ø Û Ø Ò Ñ ØÖ Ü × × ÑÔÐÝ Ø Ò ÓÖÑ Ø ÓÒ Ñ ØÖ Ü Ó Ø ÙÜ Ð ÖÝ



ÑÓ Ð¸ × Ò
Ø ×
ÓÖ × Ö ÙÒ
ÓÖÖ Ð Ø º ´ º º¸ Ø Ö ÐÐÝ × ÅÄ ×Ø Ñ Ø ÓÒ ×ÝÑÔ¹



ØÓØ
ÐÐݸ × Ò
Ø ×
ÓÖ Ò Ö ØÓÖ
Ò ÔÔÖÓÜ Ñ Ø Ø ÙÒ ÒÓÛÒ Ò× ØÝ Ö ¹



ØÖ Ö ÐÝ Û Ðеº

º ÅÈÄ Ë ¾







º¾º ×ÝÑÔØÓØ
×ØÖ ÙØ ÓÒº Ë Ò
Û Ù× Ø ÓÔØ Ñ Ð Û Ø Ò Ñ ØÖ Ü¸ Ø ×¹



ÝÑÔØÓØ
×ØÖ ÙØ ÓÒ × × Ò ÕÙ Ø ÓÒ ¼¸ ×Ó Û Ú ´Ù× Ò Ø Ö ×ÙÐØ Ò ÕÙ Ø ÓÒ µ

 

−1 −1

√ d 1

ˆ

n θ−θ 0

→ N 0, D∞ 1+ I(λ ) 0 ′

D∞ ,

H



Û Ö



D∞ = lim E Dθ m′ (θ 0 , λ0 ) .

n n→∞

Ì ×
Ò
ÓÒ× ×Ø ÒØÐÝ ×Ø Ñ Ø Ù× Ò



ˆ ˆ ˆ

D = Dθ m′ (θ, λ)

n



º¿º ÒÓØ
Ø ×Ø Ò º Ì
Ø Ø Ø



√ 1

ˆ a

nmn (θ 0 , λ) ∼ N 0, 1 + I(λ0 )

H

ÑÔÐ × Ø Ø

−1

ˆ ˆ 1 ˆ ˆ ˆ a

nmn (θ, λ)′ 1+ I(λ) mn (θ, λ) ∼ χ2 (q)

H

Û Ö q × dim(λ) − dim(θ), × Ò
Û Ø ÓÙØ dim(θ) ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ø ÑÓ Ð × ÒÓØ



ÒØ ¸ ×Ó Ø ×Ø Ò × ÑÔÓ×× Ð º ÇÒ Ø ×Ø Ó Ø ÑÓ Ð × × ÑÔÐÝ × ÓÒ Ø × ×Ø Ø ×Ø




Ø Ü
× Ø χ2 (q)
Ö Ø
Ð ÔÓ Òظ ×ÓÑ Ø Ò Ñ Ý ÛÖÓÒ ´Ø ×Ñ ÐÐ × ÑÔÐ Ô Ö ÓÖÑ Ò




Ó Ø × ×ÓÖØ Ó Ø ×Ø ÛÓÙÐ ØÓÔ
ÛÓÖØ ÒÚ ×Ø Ø Ò µº





• ÁÒ ÓÖÑ Ø ÓÒ ÓÙØ Û Ø × ÛÖÓÒ
Ò ÓØØ Ò ÖÓÑ Ø Ô× Ù Ó¹Ø¹×Ø Ø ×Ø
×



1/2 −1

1 √

1+ ˆ

I(λ) ˆ ˆ

nmn (θ, λ)

H


Ò Ù× ØÓ Ø ×Ø Û
ÑÓÑ ÒØ× Ö ÒÓØ Û ÐÐ ÑÓ Ð º Ë Ò
Ø × ÑÓÑ ÒØ×



Ö Ö Ð Ø ØÓ Ô Ö Ñ Ø Ö× Ó Ø ×
ÓÖ Ò Ö ØÓÖ¸ Û
Ö Ù×Ù ÐÐÝ Ö Ð Ø ØÓ




ÖØ Ò ØÙÖ × Ó Ø ÑÓ Ð¸ Ø × Ò ÓÖÑ Ø ÓÒ
Ò Ù× ØÓ Ö Ú × Ø ÑÓ Ðº

√ ˆ √ ˆ ˆ

Ì × Ö Ò³Ø
ØÙ ÐÐÝ ×ØÖ ÙØ × N (0, 1), × Ò
nmn (θ 0 , λ) Ò nmn (θ, λ)

√ ˆ ˆ

Ú Ö ÒØ ×ØÖ ÙØ ÓÒ× ´Ø Ø Ó nmn (θ, λ) × ×ÓÑ Û Ø ÑÓÖ
ÓÑÔÐ
Ø µº



ÁØ
Ò × ÓÛÒ Ø Ø Ø Ô× Ù Ó¹Ø ×Ø Ø ×Ø
× Ö × ØÓÛ Ö ÒÓÒÖ
Ø ÓÒº Ë



ÓÙÖ ÖÓÙÜ Øº к ÓÖ ÐÐ ÒØ Ò ÄÓÒ ¸ ½ ¸ ÓÖ ÑÓÖ Ø Ð׺









º Ü ÑÔÐ ×

º½º ×Ø Ñ Ø ÓÒ Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ׺ ÁØ × Ó Ø Ò
ÓÒÚ Ò ÒØ ØÓ



ÓÖÑÙÐ Ø Ø ÓÖ Ø
Ð ÑÓ Ð× Ò Ø ÖÑ× Ó Ö ÒØ Ð ÕÙ Ø ÓÒ׸ Ò Û Ò Ø Ó × ÖÚ Ø ÓÒ



Ö ÕÙ Ò
Ý × ´ º º¸ Û Ðݸ Ðݸ ÓÙÖÐÝ ÓÖ Ö Ð¹Ø Ñ µ Ø Ñ Ý ÑÓÖ Ò ØÙÖ Ð ØÓ ÓÔØ



Ø × Ö Ñ ÛÓÖ ÓÖ
ÓÒÓÑ ØÖ
ÑÓ Ð× Ó Ø Ñ × Ö ×º



Ì ÑÓ×Ø
ÓÑÑÓÒ ÔÔÖÓ
ØÓ ×Ø Ñ Ø ÓÒ Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ× × ØÓ



×
Ö Ø Þ Ø ÑÓ Ð¸ × ÓÚ ¸ Ò ×Ø Ñ Ø Ù× Ò Ø ×
Ö Ø Þ Ú Ö× ÓÒº ÀÓÛ Ú Ö¸ × Ò




Ø ×
Ö Ø Þ Ø ÓÒ × ÓÒÐÝ Ò ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ Ø ØÖÙ ×
Ö Ø ¹Ø Ñ Ú Ö× ÓÒ Ó Ø ÑÓ Ð



´Û
× ÒÓØ
Ð
ÙÐ Ð µ¸ Ø Ö ×ÙÐØ Ò ×Ø Ñ ØÓÖ × Ò Ò Ö Ð × Ò Ò
ÓÒ× ×Ø Òغ



Ò ÐØ ÖÒ Ø Ú × ØÓ Ù× Ò Ö
Ø Ò Ö Ò
Ì ×
Ö Ø Þ ÑÓ Ð × Ù× × Ø ×
ÓÖ



Ò Ö ØÓÖº Ì Ø ×¸ ÓÒ ×Ø Ñ Ø × Ý ÉÅÄ ØÓ Ó Ø Ò Ø ×
ÓÖ × Ó Ø ×
Ö Ø Þ ÔÔÖÓÜ ¹



Ñ Ø ÓÒ

º ÅÈÄ Ë ¾









yt − yt−1 = g(φ, yt−1 ) + h(φ, yt−1 )εt

εt ∼ N (0, 1)



ÁÒ
Ø Ø × ×
ÓÖ × Ý ˆ

mn (θ, φ). Ì Ò Ø ×Ý×Ø Ñ Ó ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒ×





dyt = g(θ, yt )dt + h(θ, yt )dWt



× × ÑÙÐ Ø ÓÚ Ö θ¸ Ò Ø ×
ÓÖ × Ö
Ð
ÙÐ Ø Ò Ú Ö ÓÚ Ö Ø × ÑÙÐ Ø ÓÒ×



N

ˆ 1 ˆ

˜

mn (θ, φ) = min (θ, φ)

N

i=1



ˆ

θ ×
Ó× Ò ØÓ × Ø Ø × ÑÙÐ Ø ×
ÓÖ × ØÓ Þ ÖÓ





˜ ˆ ˆ

mn (θ, φ) ≡ 0



´× Ò
θ Ò φ Ö Ó Ø × Ñ Ñ Ò× ÓÒµº



Ì × Ñ Ø Ó Ö ÕÙ Ö × × ÑÙÐ Ø Ò Ø ×ØÓ
×Ø
Ö ÒØ Ð ÕÙ Ø ÓÒº Ì Ö Ö Ñ ÒÝ



Û Ý× Ó Ó Ò Ø ×º ×
ÐÐݸ Ø Ý ÒÚÓÐÚ Ó Ò Ú ÖÝ Ò ×
Ö Ø Þ Ø ÓÒ×





yt+τ = yt + g(θ, yt ) + h(θ, yt )ηt

ηt ∼ N (0, τ )



Ý × ØØ Ò τ Ú ÖÝ ×Ñ Ðи Ø × ÕÙ Ò
Ó ηt ÔÔÖÓÜ Ñ Ø × ÖÓÛÒ Ò ÑÓØ ÓÒ ÖÐÝ Û Ðк



Ì × × ÓÒÐÝ ÓÒ Ñ Ø Ó Ó Ù× Ò Ò Ö
Ø Ò Ö Ò
ÓÖ ×Ø Ñ Ø ÓÒ Ó Ö ÒØ Ð ÕÙ ¹



Ø ÓÒ׺ Ì Ö Ö ÓØ Ö× ´× ÐÐ ÒØ Ò ÄÓÒ ¸ ½ Ò ÓÙÖ ÖÓÙÜ Øº кµº Í× Ó × Ö ×



ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ Ø ØÖ Ò× Ø ÓÒ Ð Ò× ØÝ × Ò ÐÐ ÒØ Ò ÄÓÒ × Ò ÒØ Ö ×Ø Ò ÔÓ×× ¹



Ð ØÝ × Ò
Ø ×
ÓÖ Ò Ö ØÓÖ Ñ Ý Ú Ö Ñ Ò× ÓÒ Ð Ô Ö Ñ Ø Ö Ø Ò Ø ÑÓ Ð¸



Û
ÐÐÓÛ× ÓÖ ÒÓ×Ø
Ø ×Ø Ò º ÁÒ Ø Ñ Ø Ó ×
Ö ÓÚ Ø ×
ÓÖ Ò Ö ØÓÖ³×



Ô Ö Ñ Ø Ö φ × Ó Ø × Ñ Ñ Ò× ÓÒ × × θ, ×Ó ÒÓ×Ø
Ø ×Ø Ò × ÒÓØ ÔÓ×× Ð º





º¾º ÅÅ ×Ø Ñ Ø ÓÒ Ó ×
Ö Ø
Ó
ÑÓ Ðº ÁÒ Ø × ×
Ø ÓÒ
ÓÒ× Ö ÅÅ



×Ø Ñ Ø ÓÒº Ì Ö × ×ÓÔ ×Ø
Ø Ô
Ý ÐÐ ÒØ Ò Ì Ù
Ò ÓÖ Ø ×¸ ÙØ Ö



Û ³ÐÐ ÐÓÓ Ø ×ÓÑ × ÑÔÐ ¸ ÙØ ÓÔ ÙÐÐÝ
Ø

Ó º Ì Ð ÔÖÓ Ø ÔºÑ Ò Ö Ø ×



Ø Ø Ø ÓÐÐÓÛ× Ø ÔÖÓ Ø ÑÓ Ðº Ì Ð ÑÑ ÑÓÑ ÒØ×ºÑ Ò × ÅÅ ÑÓÑ ÒØ




ÓÒ Ø ÓÒ׸ Û Ö Ø È Ò ×
ÓÖ Ò Ö ØÓÖ
Ò Ô ×× × Ö ÙÑ ÒØ׺ Ì Ù׸ Ø ×



Ò Ö Ð ÔÙÖÔÓ× ÑÓÑ ÒØ
ÓÒ Ø ÓÒ ÓÖ ÅÅ ×Ø Ñ Ø ÓÒº Ì × Ð × ÒØ Ö ×Ø Ò ÒÓÙ ØÓ



Û ÖÖ ÒØ ×ÓÑ ×
Ù×× ÓÒº Ð ×Ø Ò ÔÔ Ö× Ò Ä ×Ø Ò ½ º½º Ä Ò ¿ Ò × Ø È¸ Ò



Ø Ö ÙÑ ÒØ× Ò ØÓ Ú ÐÙ Ø Ø Ö Ò Ò Ð Ò º Ì ×
ÓÖ Ò Ö ØÓÖ × Ò Ò



Ð Ò ¸ Ò Ø× Ö ÙÑ ÒØ× Ö Ò Ò Ð Ò º Ì ÉÅÄ ×Ø Ñ Ø Ó Ø Ô Ö Ñ Ø Ö Ó Ø



×
ÓÖ Ò Ö ØÓÖ × Ö Ò Ð Ò º ÆÓØ Ò Ð Ò ½¼ ÓÛ Ø Ö Ò ÓÑ Ö Û× Ò ØÓ × ÑÙÐ Ø



Ø Ö Ô ×× Û Ø Ø Ø ¸ Ò Ö Ø Ù× Ü ÙÖ Ò ×Ø Ñ Ø ÓÒ¸ ØÓ ÚÓ
ØØ Ö Ò º



Ì × ÑÙÐ Ø Ø × Ò Ö Ø Ò Ð Ò ½ ¸ Ò Ø Ö Ú Ø Ú Ó Ø ×
ÓÖ Ò Ö ØÓÖ Ù× Ò



Ø × ÑÙÐ Ø Ø ×
Ð
ÙÐ Ø Ò Ð Ò ½ º ÁÒ Ð Ò ¾¼ Û Ú Ö Ø ×
ÓÖ × Ó Ø ×
ÓÖ



Ò Ö ØÓÖ¸ Û
Ö Ø ÑÓÑ ÒØ
ÓÒ Ø ÓÒ× Ø Ø Ø ÙÒ
Ø ÓÒ Ö ØÙÖÒ׺





½ ÙÒ
Ø ÓÒ ×
ÓÖ × ÑÑ ÑÓÑ ÒØ×´Ø Ø ¸ Ø ¸ ÑÓÑ ÒØ Ö ×µ

¾ ÑÓÑ ÒØ Ö ×ß½

¿ Ô ÑÓÑ ÒØ Ö ×ß¾ Ø Ø Ò Ö Ø Ò ÔÖÓ
×× ´ ȵ

Ô Ö × ÑÓÑ ÒØ Ö ×ß¿ Ø× Ö ÙÑ ÒØ× ´
ÐÐ ÖÖ Ýµ

× ÑÓÑ ÒØ Ö ×ß Ø ×
ÓÖ Ò Ö ØÓÖ ´Ë µ

º ÅÈÄ Ë ¾









× Ö × ÑÓÑ ÒØ Ö ×ß Ë Ö ÙÑ ÒØ× ´
ÐÐ ÖÖ Ýµ

Ô ÑÓÑ ÒØ Ö ×ß ÉÅÄ ×Ø Ñ Ø Ó Ë Ô Ö Ñ Ø Ö

Ý Ø ´ ¸½µ

Ü Ø ´ ¸¾ ·½µ

½¼ Ö Ò Ö Û× Ø ´ ¸ ·¾
ÓÐÙÑÒ×´ Ø µµ Ô ×× Û Ø Ø ØÓ Ò×ÙÖ Ü


ÖÓ×× Ø Ö Ø ÓÒ×

½½ Ò ÖÓÛ״ݵ

½¾ ×
ÓÖ × Þ ÖÓ×´Ò¸ÖÓÛ×´Ô µµ
ÓÒØ Ò Ö ÓÖ ÑÓÑ ÒØ
ÓÒØÖ ÙØ ÓÒ×

½¿ Ö Ô×
ÓÐÙÑÒ×´Ö Ò Ö Û×µ ÓÛ Ñ ÒÝ × ÑÙÐ Ø ÓÒ×

½ ÓÖ ½ Ö Ô×

½ Ö Ò Ö Û×´ ¸ µ

½ Ý Ú Ð´ Ô¸ Ø Ø ¸ ܸ ¸ Ô Ö ×µ × ÑÙÐ Ø Ø

½ × Ø Ý Ü℄ × ÑÙÐ Ø Ø ÓÖ Ë

½ ×
ÓÖ × ×
ÓÖ × · ÒÙÑ Ö ÒØ´× ¸ ßÔ ¸ × Ø ¸ × Ö × µ Ö ÒØ Ó Ë

½ Ò ÓÖ

¾¼ ×
ÓÖ × ×
ÓÖ × » Ö Ô× Ú Ö ÓÚ Ö ÒÙÑ Ö Ó × ÑÙÐ Ø ÓÒ×

¾½ Ò ÙÒ
Ø ÓÒ



Ä ×Ø Ò ½ º½





Ì Ð ÑÑ Ü ÑÔÐ ºÑ Ô Ö ÓÖÑ× ÅÅ ×Ø Ñ Ø ÓÒ Ó Ø ÔÖÓ Ø ÑÓ Ð¸ Ù× Ò ÐÓ Ø



ÑÓ Ð × Ø ×
ÓÖ Ò Ö ØÓÖº Ì Ö ×ÙÐØ× Û Ó Ø Ò Ö







Ë
ÓÖ Ò Ö ØÓÖ Ö ×ÙÐØ×



ËÅÁÆ Ò Ð Ö ×ÙÐØ×



Í× Ò ÐÝØ
Ö ÒØ



¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

ËÌÊÇÆ ÇÆÎ Ê Æ

ÙÒ
Ø ÓÒ
ÓÒÚ ½ È Ö Ñ
ÓÒÚ ½ Ö ÒØ
ÓÒÚ ½

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹

Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¼º¾ ½ ½

ËØ Ô× Þ ¼º¼¾

½ Ø Ö Ø ÓÒ×

¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹



Ô Ö Ñ Ö ÒØ
Ò

½º ¼º¼¼¼¼ ¼º¼¼¼¼

½º ¹¼º¼¼¼¼ ¼º¼¼¼¼

½º ½¾ ¹¼º¼¼¼¼ ¼º¼¼¼¼

½º ¹¼º¼¼¼¼ ¼º¼¼¼¼

½º ¿¿ ¹¼º¼¼¼¼ ¼º¼¼¼¼







ÅÓ Ð Ö ×ÙÐØ×

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÅÅ Ü ÑÔÐ



ÅÅ ×Ø Ñ Ø ÓÒ Ê ×ÙÐØ×

Ë
ÓÒÚ Ö Ò
ÆÓÖÑ Ð
ÓÒÚ Ö Ò


º ÅÈÄ Ë ¾ ¼







Ç
Ø Ú ÙÒ
Ø ÓÒ Ú ÐÙ ¼º¼¼¼¼¼¼

Ç × ÖÚ Ø ÓÒ× ½¼¼¼



Ü
ØÐÝ ÒØ ¸ ÒÓ ×Ô
º Ø ×Ø



×Ø Ñ Ø ×غ ÖÖ Ø¹×Ø Ø Ô¹Ú ÐÙ

Ô½ ½º¼ ¼º¼¾¾ º ½ ¼º¼¼¼

Ô¾ ¼º ¿ ¼º¼¾¾ ¾º¾ ¼ ¼º¼¼¼

Ô¿ ½º¼ ¼º¼¾¾ º ¿¼ ¼º¼¼¼

Ô ½º¼ ¼ ¼º¼¾¾ º¼ ¼º¼¼¼

Ô ¼º ¼º¼¾¿ ½º ¿ ¼º¼¼¼

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶



ÁØ Ñ Ø ÒØ Ö ×Ø Ò ØÓ
ÓÑÔ Ö Ø ×Ø Ò Ö ÖÖÓÖ× Û Ø Ø Ó× Ó Ø Ò ÖÓÑ ÅÄ



×Ø Ñ Ø ÓÒ¸ ØÓ


Ò
Ý Ó Ø ÅÅ ×Ø Ñ ØÓÖº ÇÒ
ÓÙÐ Ú Ò Ó ÅÓÒØ ÖÐÓ



×Ø٠ݺ

º ÅÈÄ Ë ¾ ½







Ü Ö
× ×

´½µ Ó ËÅÄ ×Ø Ñ Ø ÓÒ Ó Ø ÔÖÓ Ø ÑÓ Ðº



´¾µ Ó Ð ØØÐ ÅÓÒØ ÖÐÓ ×ØÙ Ý ØÓ
ÓÑÔ Ö Åĸ ËÅÄ Ò ÅÅ ×Ø Ñ Ø ÓÒ Ó Ø



ÔÖÓ Ø ÑÓ Ðº ÁÒÚ ×Ø Ø ÓÛ Ø ÒÙÑ Ö Ó × ÑÙÐ Ø ÓÒ×
Ø Ø ØÛÓ × ÑÙÐ Ø ÓÒ¹



× ×Ø Ñ ØÓÖ׺

À ÈÌ Ê ¾¼







È Ö ÐÐ Ð ÔÖÓ Ö ÑÑ Ò ÓÖ
ÓÒÓÑ ØÖ
×



Ì ÓÐÐÓÛ Ò ÓÖÖÓÛ× Ú ÐÝ ÖÓÑ Ö Ð ´¾¼¼ µº



È Ö ÐÐ Ð
ÓÑÔÙØ Ò
Ò Ó Ö Ò ÑÔÓÖØ ÒØ Ö Ù
Ø ÓÒ Ò Ø Ø Ñ ØÓ
ÓÑÔÐ Ø
ÓÑÔÙ¹



Ø Ø ÓÒ׺ Ì × × Û Ðй ÒÓÛÒ¸ ÙØ Ø Ö× ÑÔ × × × Ò
Ø × Ø Ñ Ò Ö ×ÓÒ Ø Ø Ô Ö ÐÐ Ð




ÓÑÔÙØ Ò Ñ Ý ØØÖ
Ø Ú ØÓ Ù× Ö׺ ÌÓ ÐÐÙ×ØÖ Ø ¸ Ø ÁÒØ Ð È ÒØ ÙÑ ÁÎ ´Ï ÐÐ Ñ ØØ µ



ÔÖÓ
××ÓÖ¸ ÖÙÒÒ Ò Ø ½º ÀÞ¸ Û × ÒØÖÓ Ù
Ò ÆÓÚ Ñ Ö Ó ¾¼¼¼º Ì È ÒØ ÙÑ ÁÎ



´ÆÓÖØ ÛÓÓ ¹À̵ ÔÖÓ
××ÓÖ¸ ÖÙÒÒ Ò Ø ¿º¼ ÀÞ¸ Û × ÒØÖÓ Ù
Ò ÆÓÚ Ñ Ö Ó ¾¼¼¾º Ò



ÔÔÖÓÜ Ñ Ø ÓÙ Ð Ò Ó Ø Ô Ö ÓÖÑ Ò
Ó
ÓÑÑÓ ØÝ ÈÍ ØÓÓ ÔÐ
Ò ØÛÓ Ý Ö׺



ÜØÖ ÔÓÐ Ø Ò Ø × Ñ ØØ ÐÝ ÖÓÙ ×Ò Ô× ÓØ Ó Ø ÚÓÐÙØ ÓÒ Ó Ø Ô Ö ÓÖÑ Ò
Ó
Óѹ



ÑÓ ØÝ ÔÖÓ
××ÓÖ׸ ÓÒ ÛÓÙÐ Ò ØÓ Û Ø ÑÓÖ Ø Ò º Ý Ö× Ò Ø Ò ÔÙÖ
× Ò Û




ÓÑÔÙØ Ö ØÓ Ó Ø Ò ½¼¹ ÓÐ ÑÔÖÓÚ Ñ ÒØ Ò
ÓÑÔÙØ Ø ÓÒ Ð Ô Ö ÓÖÑ Ò
º Ì Ü ÑÔÐ × Ò



Ø ×
ÔØ Ö × ÓÛ Ø Ø ½¼¹ ÓÐ ÑÔÖÓÚ Ñ ÒØ Ò Ô Ö ÓÖÑ Ò

Ò
Ú ÑÑ Ø Ðݸ



Ù× Ò ×ØÖ ÙØ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò ÓÒ Ú Ð Ð
ÓÑÔÙØ Ö׺



Ê
ÒØ ´Ø × × ÛÖ ØØ Ò Ò ¾¼¼ µ Ú ÐÓÔÑ ÒØ× Ø Ø Ñ Ý Ñ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò Ø¹



ØÖ
Ø Ú ØÓ ÖÓ Ö ×Ô
ØÖÙÑ Ó Ö × Ö
Ö× Û Ó Ó
ÓÑÔÙØ Ø ÓÒ׺ Ì Ö×Ø × Ø
Ø



Ø Ø × ØØ Ò ÙÔ
ÐÙ×Ø Ö Ó
ÓÑÔÙØ Ö× ÓÖ ×ØÖ ÙØ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò × ÒÓØ
ÙÐغ Á



ÝÓÙ Ö Ù× Ò Ø È Ö ÐÐ ÐÃÒÓÔÔ Ü ÓÓØ Ð Ø Ø

ÓÑÔ Ò × Ø × ÒÓØ ×¸ ÝÓÙ Ö Ð ××



Ø Ò ½¼ Ñ ÒÙØ × Û Ý ÖÓÑ
Ö Ø Ò
ÐÙ×Ø Ö¸ ×ÙÔÔÓ× Ò ÝÓÙ Ú ×
ÓÒ
ÓÑÔÙØ Ö Ø



Ò Ò
ÖÓ××ÓÚ Ö Ø ÖÒ Ø
Ð º Ë Ø È Ö ÐÐ ÐÃÒÓÔÔ Ü ØÙØÓÖ Ðº ×
ÓÒ Ú ÐÓÔ¹



Ñ ÒØ × Ø Ü ×Ø Ò
Ó ÜØ Ò× ÓÒ× ØÓ ×ÓÑ Ó Ø ¹Ð Ú Ð Ñ ØÖ Ü ÔÖÓ Ö ÑÑ Ò ´ÀÄÅȵ

½

Ð Ò Ù × Ø Ø ÐÐÓÛ Ø Ò
ÓÖÔÓÖ Ø ÓÒ Ó Ô Ö ÐÐ Ð ×Ñ ÒØÓ ÔÖÓ Ö Ñ× ÛÖ ØØ Ò Ò Ø × Ð Ò¹



٠׺ Ø Ö × Ø ×ÔÖ Ó Ù Ð Ò ÕÙ ¹
ÓÖ ÈÍ׸ ×Ó Ø Ø Ò ÓÖ Ò ÖÝ × ØÓÔ ÓÖ



Ð ÔØÓÔ
ÓÑÔÙØ Ö
Ò Ñ ÒØÓ Ñ Ò ¹
ÐÙ×Ø Öº Ì Ó×
ÓÖ × ÛÓÒ³Ø ÛÓÖ ØÓ Ø Ö ÓÒ



× Ò Ð ÔÖÓ Ð Ñ ÙÒÐ ×× Ø Ý Ö ØÓÐ ÓÛ ØÓº



ÓÐÐÓÛ Ò Ö Ü ÑÔÐ × Ó Ô Ö ÐÐ Ð ÑÔÐ Ñ ÒØ Ø ÓÒ× Ó × Ú Ö Ð Ñ Ò×ØÖ Ñ ÔÖÓ Ð Ñ×



Ò
ÓÒÓÑ ØÖ
׺ Ó
Ù× Ó Ø Ü ÑÔÐ × × ÓÒ Ø ÔÓ×× Ð ØÝ Ó Ò Ô Ö ÐÐ Ð Þ Ø ÓÒ



ÖÓÑ Ò Ù× Ö× Ó ÔÖÓ Ö Ñ׺ Á ÔÖÓ Ö Ñ× Ø Ø ÖÙÒ Ò Ô Ö ÐÐ Ð Ú Ò ÒØ Ö
Ø Ø ×



Ò ÖÐÝ ÒØ
Ð ØÓ Ø ÒØ Ö
Ó ÕÙ Ú Ð ÒØ × Ö Ð Ú Ö× ÓÒ׸ Ò Ù× Ö× Û ÐÐ Ò Ø ×Ý ØÓ



Ø Ú ÒØ Ó Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò ³× Ô Ö ÓÖÑ Ò
º Ï
ÓÒØ ÒÙ ØÓ Ù× Ç
Ø Ú ¸ Ø Ò



Ú ÒØ Ó Ø ÅÈÁ ÌÓÓÐ ÓÜ ´ÅÈÁÌ µ ÓÖ Ç
Ø Ú ¸ Ý Ý ÖÒ Ò Þ Ð ÓÑ ÖÓ Ø Ðº

´¾¼¼ µº Ì Ö Ö Ð×Ó Ô Ö ÐÐ Ð Ô
× ÓÖ Çܸ ʸ Ò ÈÝØ ÓÒ Û
Ñ Ý Ó ÒØ Ö ×Ø



ØÓ
ÓÒÓÑ ØÖ
Ò׸ ÙØ × Ó Ø × ÛÖ Ø Ò ¸ Ø ÓÐÐÓÛ Ò Ü ÑÔÐ × Ö Ø ÑÓ×Ø

×× Ð



ÒØÖÓ Ù
Ø ÓÒ ØÓ Ô Ö ÐÐ Ð ÔÖÓ Ö ÑÑ Ò ÓÖ
ÓÒÓÑ ØÖ
Ò׺









½º Ü ÑÔÐ ÔÖÓ Ð Ñ×

Ì × ×
Ø ÓÒ ÒØÖÓ Ù
× Ü ÑÔÐ ÔÖÓ Ð Ñ× ÖÓÑ
ÓÒÓÑ ØÖ
׸ Ò × ÓÛ× ÓÛ Ø Ý
Ò



Ô Ö ÐÐ Ð Þ Ò Ò ØÙÖ Ð Û Ýº





½

Ý ¹Ð Ú Ð Ñ ØÖ Ü ÔÖÓ Ö ÑÑ Ò Ð Ò Ù Á Ñ Ò Ð Ò Ù × ×Ù
× Å ÌÄ ´ÌÅ Ø Å Ø ÛÓÖ ×¸

ÁÒ
ºµ¸ ÇÜ ´ÌÅ ÇÜÅ ØÖ
× Ì
ÒÓÐÓ ×¸ ÄØ ºµ¸ Ò ÆÍ Ç
Ø Ú ´ÛÛÛºÓ
Ø Ú ºÓÖ µ¸ ÓÖ Ü ÑÔÐ º



¾ ¾

½º ÅÈÄ ÈÊÇ Ä ÅË ¾ ¿







½º½º ÅÓÒØ ÖÐÓº ÅÓÒØ ÖÐÓ ×ØÙ Ý ÒÚÓÐÚ × Ö Ô Ø Ò Ö Ò ÓÑ ÜÔ Ö Ñ ÒØ



Ñ ÒÝ Ø Ñ × ÙÒ Ö ÒØ
Ð
ÓÒ Ø ÓÒ׺ Ë Ú Ö Ð ÙØ ÓÖ× Ú ÒÓØ Ø Ø ÅÓÒØ ÖÐÓ



×ØÙ × Ö Ó Ú ÓÙ×
Ò Ø × ÓÖ Ô Ö ÐÐ Ð Þ Ø ÓÒ ´ ÓÓÖÒ Ø Ðº ¾¼¼¾ ÖÙ
¸ ¾¼¼¿µ × Ò




ÐÓ
× Ó Ö ÔÐ
Ø ÓÒ×
Ò ÓÒ Ò Ô Ò ÒØÐÝ ÓÒ Ö ÒØ
ÓÑÔÙØ Ö׺ ÌÓ ÐÐÙ×ØÖ Ø Ø



Ô Ö ÐÐ Ð Þ Ø ÓÒ Ó ÅÓÒØ ÖÐÓ ×Ø٠ݸ Û Ù× × Ñ ØÖ
Ø ×Ø Ü ÑÔÐ × Ó ÓÓÖÒ ¸ غ

к ´¾¼¼¾µº ØÖ
Ø ×ØºÑ × ÙÒ
Ø ÓÒ Ø Ø
Ð
ÙÐ Ø × Ø ØÖ
Ø ×Ø ×Ø Ø ×Ø
ÓÖ Ø Ð
Ó




Ó ÒØ Ö Ø ÓÒ Ó ÒØ Ö Ø Ø Ñ × Ö ×º Ì × ÙÒ
Ø ÓÒ × ÐÐÙ×ØÖ Ø Ú Ó Ø ÓÖÑ Ø Ø Ø Û



ÓÔØ ÓÖ ÅÓÒØ ÖÐÓ × ÑÙÐ Ø ÓÒ Ó ÙÒ
Ø ÓÒ Ø Ö
Ú × × Ò Ð Ö ÙÑ ÒØ Ó
ÐÐ ØÝÔ ¸



Ò Ø Ö ØÙÖÒ× ÖÓÛ Ú
ØÓÖ Ø Ø ÓÐ × Ø Ö ×ÙÐØ× Ó ÓÒ Ö Ò ÓÑ × ÑÙÐ Ø ÓÒº Ì × Ò Ð



Ö ÙÑ ÒØ Ò Ø ×
× ×
ÐÐ ÖÖ Ý Ø Ø ÓÐ × Ø Ð Ò Ø Ó Ø × Ö × Ò Ø× Ö×Ø ÔÓ× Ø ÓÒ¸



Ò Ø ÒÙÑ Ö Ó × Ö × Ò Ø ×
ÓÒ ÔÓ× Ø ÓÒº ÁØ Ò Ö Ø × Ö Ò ÓÑ Ö ×ÙÐØ Ø ÓÙ



ÔÖÓ
×× Ø Ø × ÒØ ÖÒ Ð ØÓ Ø ÙÒ
Ø ÓÒ¸ Ò Ø Ö ÔÓÖØ× ×ÓÑ ÓÙØÔÙØ Ò ÖÓÛ Ú
ØÓÖ ´ Ò Ø ×




× Ø Ö ×ÙÐØ × ×
Ð Öµº



Ñ
Ü ÑÔÐ ½ºÑ × Ò Ç
Ø Ú ×
Ö ÔØ Ø Ø Ü
ÙØ × ÅÓÒØ ÖÐÓ ×ØÙ Ý Ó Ø ØÖ




Ø ×Ø Ý Ö Ô Ø ÐÝ Ú ÐÙ Ø Ò Ø ØÖ
Ø ×ØºÑ ÙÒ
Ø ÓÒº Ì Ñ Ò Ø Ò ØÓ ÒÓØ
ÓÙØ



Ø × ×
Ö ÔØ × Ø Ø Ð Ò × Ò ½¼
ÐÐ Ø ÙÒ
Ø ÓÒ ÑÓÒØ
ÖÐӺѺ Ï Ò
ÐÐ Û Ø ¿



Ö ÙÑ ÒØ׸ × Ò Ð Ò ¸ ÑÓÒØ
ÖÐ Ü
ÙØ × × Ö ÐÐÝ ÓÒ Ø
ÓÑÔÙØ Ö Ø ×
ÐÐ ÖÓѺ



ÁÒ Ð Ò ½¼¸ Ø Ö × ÓÙÖØ Ö ÙÑ Òغ Ï Ò
ÐÐ Û Ø ÓÙÖ Ö ÙÑ ÒØ׸ Ø Ð ×Ø Ö ÙÑ ÒØ



× Ø ÒÙÑ Ö Ó ×Ð Ú Ó×Ø× ØÓ Ù× º Ï × Ø Ø ÖÙÒÒ Ò Ø ÅÓÒØ ÖÐÓ ×ØÙ Ý ÓÒ ÓÒ



ÓÖ ÑÓÖ ÔÖÓ
××ÓÖ× × ØÖ Ò×Ô Ö ÒØ ØÓ Ø Ù× Ö ¹ ÓÖ × ÑÙ×Ø ÓÒÐÝ Ò
Ø Ø ÒÙÑ Ö Ó



×Ð Ú
ÓÑÔÙØ Ö× ØÓ Ù× º







½º¾º Åĺ ÓÖ × ÑÔÐ {(yt , xt )}n Ó n Ó × ÖÚ Ø ÓÒ× Ó × Ø Ó Ô Ò ÒØ Ò Ü¹



ÔÐ Ò ØÓÖÝ Ú Ö Ð ×¸ Ø Ñ Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ ØÓÖ Ó Ø Ô Ö Ñ Ø Ö θ
Ò Ò



×

ˆ

θ = arg max sn (θ)

Û Ö

n

1

sn (θ) = ln f (yt |xt , θ)

n t=1

À Ö ¸ yt Ñ Ý Ú
ØÓÖ Ó Ö Ò ÓÑ Ú Ö Ð ×¸ Ò Ø ÑÓ Ð Ñ Ý ÝÒ Ñ
× Ò
xt Ñ Ý




ÓÒØ Ò Ð × Ó yt º × ËÛ ÒÒ ´¾¼¼¾µ ÔÓ ÒØ× ÓÙظ Ø ×
Ò ÖÓ Ò ÒØÓ ×ÙÑ× ÓÚ Ö ÐÓ
×



Ó Ó × ÖÚ Ø ÓÒ׸ ÓÖ Ü ÑÔÐ ØÛÓ ÐÓ
×



n1 n

1

sn (θ) = ln f (yt |xt , θ) + ln f (yt |xt , θ)

n t=1 t=n1 +1



Ò ÐÓ ÓÙ×Ðݸ Û
Ò Ò ÙÔ ØÓ n ÐÓ
׺ Ò ÓÐÐÓÛ Ò ËÛ ÒÒ¸ Ô Ö ÐÐ Ð Þ Ø ÓÒ
Ò



ÓÒ Ý
Ð
ÙÐ Ø Ò
ÐÓ
ÓÒ × Ô Ö Ø
ÓÑÔÙØ Ö׺



ÑÐ Ü ÑÔÐ ½ºÑ × Ò Ç
Ø Ú ×
Ö ÔØ Ø Ø
Ð
ÙÐ Ø × Ø Ñ Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ ØÓÖ



Ó Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ Ó ÑÓ Ð Ø Ø ××ÙÑ × Ø Ø Ø Ô Ò ÒØ Ú Ö Ð × ×ØÖ ÙØ



× ÈÓ ××ÓÒ Ö Ò ÓÑ Ú Ö Ð ¸
ÓÒ Ø ÓÒ Ð ÓÒ ×ÓÑ ÜÔÐ Ò ØÓÖÝ Ú Ö Ð ×º ÁÒ Ð Ò × ½¹¿ Ø



Ø × Ö ¸ Ø Ò Ñ Ó Ø Ò× ØÝ ÙÒ
Ø ÓÒ × ÔÖÓÚ Ò Ø Ú Ö ÐÑÓ Ð¸ Ò Ø



Ò Ø Ð Ú ÐÙ Ó Ø Ô Ö Ñ Ø Ö Ú
ØÓÖ × × Øº ÁÒ Ð Ò ¸ Ø ÙÒ
Ø ÓÒ ÑÐ ×Ø Ñ Ø Ô Ö ÓÖÑ×



ÓÖ Ò ÖÝ × Ö Ð
Ð
ÙÐ Ø ÓÒ Ó Ø ÅÄ ×Ø Ñ ØÓÖ¸ Û Ð Ò Ð Ò Ø × Ñ ÙÒ
Ø ÓÒ ×
ÐÐ



Û Ø Ö ÙÑ ÒØ׺ Ì ÓÙÖØ Ò Ø Ö ÙÑ ÒØ× Ö ÑÔØÝ ÔÐ
ÓÐ Ö× Û Ö ÓÔØ ÓÒ×



ØÓ ÑÐ ×Ø Ñ Ø Ñ Ý × Ø¸ Û Ð Ø × ÜØ Ö ÙÑ ÒØ × Ø ÒÙÑ Ö Ó ×Ð Ú
ÓÑÔÙØ Ö× ØÓ



Ù× ÓÖ Ô Ö ÐÐ Ð Ü
ÙØ ÓÒ¸ ½ Ò Ø ×
× º Ô Ö×ÓÒ Û Ó ÖÙÒ× Ø ÔÖÓ Ö Ñ × × ÒÓ Ô Ö ÐÐ Ð



ÔÖÓ Ö ÑÑ Ò
Ó ¹ Ø Ô Ö ÐÐ Ð Þ Ø ÓÒ × ØÖ Ò×Ô Ö ÒØ ØÓ Ø Ò Ù× Ö¸ ÝÓÒ Ú Ò ØÓ

½º ÅÈÄ ÈÊÇ Ä ÅË ¾







× Ð
Ø Ø ÒÙÑ Ö Ó ×Ð Ú
ÓÑÔÙØ Ö׺ Ï Ò Ü
ÙØ ¸ Ø × ×
Ö ÔØ ÔÖ ÒØ× ÓÙØ Ø ×Ø Ñ Ø ×



Ø Ø × Ò Ø Ø Ô¸ Û
Ö ÒØ
к



ÁØ × ÛÓÖØ ÒÓØ Ò Ø Ø Ö ÒØ Ð Ð ÓÓ ÙÒ
Ø ÓÒ Ñ Ý Ù× ÝÑ Ò Ø ÑÓ Ð

Ú Ö Ð ÔÓ ÒØ ØÓ Ö ÒØ ÙÒ
Ø ÓÒº Ì Ð Ð ÓÓ ÙÒ
Ø ÓÒ Ø× Ð × Ò ÓÖ Ò ÖÝ Ç
Ø Ú



ÙÒ
Ø ÓÒ Ø Ø × ÒÓØ Ô Ö ÐÐ Ð Þ º Ì ÑÐ ×Ø Ñ Ø ÙÒ
Ø ÓÒ × Ò Ö
ÙÒ
Ø ÓÒ Ø Ø
Ò




ÐÐ ÒÝ Ð Ð ÓÓ ÙÒ
Ø ÓÒ Ø Ø × Ø ÔÔÖÓÔÖ Ø ÒÔÙØ»ÓÙØÔÙØ ×ÝÒØ Ü ÓÖ Ú ÐÙ Ø ÓÒ



Ø Ö × Ö ÐÐÝ ÓÖ Ò Ô Ö ÐРк Í× Ö× Ò ÓÒÐÝ Ð ÖÒ ÓÛ ØÓ ÛÖ Ø Ø Ð Ð ÓÓ ÙÒ
Ø ÓÒ



Ù× Ò Ø Ç
Ø Ú Ð Ò Ù º





½º¿º Åź ÓÖ × ÑÔÐ × ÓÚ ¸ Ø ÅÅ ×Ø Ñ ØÓÖ Ó Ø Ô Ö Ñ Ø Ö θ
Ò



Ò ×

ˆ

θ ≡ arg min sn (θ)

Θ

Û Ö



sn (θ) = mn (θ)′ Wn mn (θ)

Ò

n

1

mn (θ) = mt (yt |xt , θ)

n t=1

Ë Ò
mn (θ) × Ò Ú Ö ¸ Ø
Ò Ó Ú ÓÙ×ÐÝ
ÓÑÔÙØ ÐÓ
Û × ¸ Ù× Ò ÓÖ Ü ÑÔÐ ¾



ÐÓ
×

n1 n

1

´ µ mn (θ) = mt (yt |xt , θ) + mt (yt |xt , θ)

n t=1 t=n1 +1



Ä Û × ¸ Û Ñ Ý Ò ÙÔ ØÓ n ÐÓ
׸
Ó Û

ÓÙÐ ÔÓØ ÒØ ÐÐÝ
ÓÑÔÙØ ÓÒ



Ö ÒØ Ñ
Ò º



ÑÑ Ü ÑÔÐ ½ºÑ × ×
Ö ÔØ Ø Ø ÐÐÙ×ØÖ Ø × ÓÛ ÅÅ ×Ø Ñ Ø ÓÒ Ñ Ý ÓÒ × Ö ÐÐÝ



ÓÖ Ò Ô Ö ÐРк Ï Ò Ø × × ÖÙÒ¸ Ø Ø × Ò Ø Ø Ô Ö ÒØ
Ð ÙÔ ØÓ Ø ØÓÐ Ö Ò
ÓÖ




ÓÒÚ Ö Ò
Ó Ø Ñ Ò Ñ Þ Ø ÓÒ ÖÓÙØ Ò º Ì ÔÓ ÒØ ØÓ ÒÓØ
Ö × Ø Ø Ò Ò Ù× Ö
Ò



Ô Ö ÓÖÑ Ø ×Ø Ñ Ø ÓÒ Ò Ô Ö ÐÐ Ð Ò Ú ÖØÙ ÐÐÝ Ø × Ñ Û Ý × Ø × ÓÒ × Ö ÐÐݺ Ò¸



ÑÑ ×Ø Ñ Ø ¸ Ù× Ò Ð Ò × Ò ½¼¸ × Ò Ö
ÙÒ
Ø ÓÒ Ø Ø Û ÐÐ ×Ø Ñ Ø ÒÝ ÑÓ Ð



×Ô
Ý Ø ÑÓÑ ÒØ× Ú Ö Ð ¹ Ö ÒØ ÑÓ Ð
Ò ×Ø Ñ Ø Ý
Ò Ò Ø



Ú ÐÙ Ó Ø ÑÓÑ ÒØ× Ú Ö Ð º Ì ÙÒ
Ø ÓÒ Ø Ø ÑÓÑ ÒØ× ÔÓ ÒØ× ØÓ × Ò ÓÖ Ò ÖÝ Ç
Ø Ú



ÙÒ
Ø ÓÒ Ø Ø Ù× × ÒÓ Ô Ö ÐÐ Ð ÔÖÓ Ö ÑÑ Ò ¸ ×Ó Ù× Ö×
Ò ÛÖ Ø Ø Ö ÑÓ Ð× Ù× Ò Ø



× ÑÔÐ Ò ÒØÙ Ø Ú ÀÄÅÈ ×ÝÒØ Ü Ó Ç
Ø Ú º Ï Ø Ö ×Ø Ñ Ø ÓÒ × ÓÒ Ò Ô Ö ÐÐ Ð ÓÖ



× Ö ÐÐÝ Ô Ò × ÓÒÐÝ Ø × Ú ÒØ Ö ÙÑ ÒØ ØÓ ÑÑ ×Ø Ñ Ø ¹ Û Ò Ø × Ñ ×× Ò ÓÖ Þ ÖÓ¸



×Ø Ñ Ø ÓÒ × Ý ÙÐØ ÓÒ × Ö ÐÐÝ Û Ø ÓÒ ÔÖÓ
××ÓÖº Ï Ò Ø × ÔÓ× Ø Ú ¸ Ø ×Ô
×



Ø ÒÙÑ Ö Ó ×Ð Ú ÒÓ × ØÓ Ù× º





½º º à ÖÒ Ð Ö Ö ×× ÓÒº Ì Æ Ö Ý ¹Ï Ø×ÓÒ ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ Ó ÙÒ
¹



Ø ÓÒ g(x) Ø ÔÓ ÒØ x ×

n

t=1 yt K [(x − xt ) /γn ]

ˆ

g (x) = n

t=1 K [(x − xt ) /γn ]

n

≡ wt yy

t=1



Ï × Ø Ø Ø Û Ø Ô Ò × ÙÔÓÒ Ú ÖÝ Ø ÔÓ ÒØ Ò Ø × ÑÔÐ º ÌÓ
Ð
ÙÐ Ø Ø Ø



Ø Ú ÖÝ ÔÓ ÒØ Ò × ÑÔÐ Ó × Þ n, ÓÒ Ø ÓÖ

2

Ö Ó n k
Ð
ÙÐ Ø ÓÒ× ÑÙ×Ø ÓÒ ¸ Û Ö k

×Ø Ñ Ò× ÓÒ Ó Ø Ú
ØÓÖ Ó ÜÔÐ Ò ØÓÖÝ Ú Ö Ð ×¸ xº Ê
Ò ´¾¼¼¾µ ÑÓÒ×ØÖ Ø × Ø Ø



ÅÈÁ Ô Ö ÐÐ Ð Þ Ø ÓÒ
Ò Ù× ØÓ ×Ô ÙÔ
Ð
ÙÐ Ø ÓÒ Ó Ø ÖÒ Ð Ö Ö ×× ÓÒ ×Ø Ñ ØÓÖ

½º ÅÈÄ ÈÊÇ Ä ÅË ¾









ÙÖ ½º ËÔ ÙÔ× ÖÓÑ Ô Ö ÐÐ Ð Þ Ø ÓÒ

11





10 MONTECARLO

BOOTSTRAP

MLE

9 GMM

KERNEL



8





7





6





5





4





3





2





1

2 4 6 8 10 12

nodes





Ý
Ð
ÙÐ Ø Ò Ø Ø× ÓÖ ÔÓÖØ ÓÒ× Ó Ø × ÑÔÐ ÓÒ Ö ÒØ
ÓÑÔÙØ Ö׺ Ï ÓÐÐÓÛ Ø ×



ÑÔÐ Ñ ÒØ Ø ÓÒ Ö º ÖÒ Ð Ü ÑÔÐ ½ºÑ × ×
Ö ÔØ ÓÖ × Ö Ð Ò Ô Ö ÐÐ Ð ÖÒ Ð Ö Ö ×¹



× ÓÒº Ë Ö Ð Ü
ÙØ ÓÒ × Ó Ø Ò Ý × ØØ Ò Ø ÒÙÑ Ö Ó ×Ð Ú × ÕÙ Ð ØÓ Þ ÖÓ¸ Ò Ð Ò ½ º



ÁÒ Ð Ò ½ ¸ × Ò Ð ×Ð Ú × ×Ô
¸ ×Ó Ü
ÙØ ÓÒ × Ò Ô Ö ÐÐ Ð ÓÒ Ø Ñ ×Ø Ö Ò ×Ð Ú



ÒÓ ×º



Ì Ü ÑÔÐ ÔÖÓ Ö Ñ× × ÓÛ Ø Ø Ô Ö ÐÐ Ð Þ Ø ÓÒ Ñ Ý ÑÓ×ØÐÝ Ò ÖÓÑ Ò Ù× Ö׺



Í× Ö×
Ò Ò Ø ÖÓÑ Ô Ö ÐÐ Ð Þ Ø ÓÒ Û Ø ÓÙØ Ú Ò ØÓ ÛÖ Ø ÓÖ ÙÒ Ö×Ø Ò Ô Ö ÐÐ Ð
Ó º



Ì ×Ô ÙÔ× ÓÒ
Ò Ó Ø Ò Ö ÐÝ Ô Ò ÒØ ÙÔÓÒ Ø ×Ô

ÔÖÓ Ð Ñ Ø Ò ¸ ×



Û ÐÐ ×Ø × Þ Ó Ø
ÐÙ×Ø Ö¸ Ø
Ò
Ý Ó Ø Ò ØÛÓÖ ¸ Ø
º ËÓÑ Ü ÑÔÐ × Ó ×Ô ÙÔ×



Ö ÔÖ × ÒØ Ò Ö Ð ´¾¼¼ µº ÙÖ ½ Ö ÔÖÓ Ù
× ×Ô ÙÔ× ÓÖ ×ÓÑ
ÓÒÓÑ ØÖ
ÔÖÓ Ð Ñ×



ÓÒ
ÐÙ×Ø Ö Ó ½¾ × ØÓÔ
ÓÑÔÙØ Ö׺ Ì ×Ô ÙÔ ÓÖ k ÒÓ × × Ø Ø Ñ ØÓ Ò × Ø



ÔÖÓ Ð Ñ ÓÒ × Ò Ð ÒÓ Ú Ý Ø Ø Ñ ØÓ Ò × Ø ÔÖÓ Ð Ñ ÓÒ k ÒÓ ×º ÆÓØ Ø Ø



ÝÓÙ
Ò Ø ½¼ ×Ô ÙÔ׸ ×
Ð Ñ Ò Ø ÒØÖÓ Ù
Ø ÓÒº ÁØ³× ÔÖ ØØÝ Ó Ú ÓÙ× Ø Ø ÑÙ




Ö Ø Ö ×Ô ÙÔ×
ÓÙÐ Ó Ø Ò Ù× Ò Ð Ö Ö
ÐÙ×Ø Ö¸ ÓÖ Ø Ñ ÖÖ ×× Ò ÐÝ Ô Ö ÐÐ Ð



ÔÖÓ Ð Ñ׺

ÐÓ Ö Ô Ý



½℄ ÖÙ
¸ ź ´¾¼¼¿µ ÒÓØ ÓÒ Ñ Ö ×× Ò ÐÝ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ø ÓÒ Ù× Ò ÇÔ ÒÅÓ× Ü Ò Çܸ ÛÓÖ Ò



Ô Ô Ö¸ Ò Ò
Ð Å Ö Ø× ÖÓÙÔ¸ ÄÓÒ ÓÒ Ë
ÓÓÐ Ó
ÓÒÓÑ
׺



¾℄ Ö Ð¸ ź ´¾¼¼ µ Í× Ö¹ Ö Ò ÐÝ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ø ÓÒ× Û Ø
ÓÒÓÑ ØÖ
Ü ÑÔР׸ ÓÑÔÙØ Ø ÓÒ Ð
Ó¹

ÒÓÑ
׸ κ ¾ ¸ ÔÔº ½¼ ¹½¾ º



¿℄ ÓÓÖÒ ¸ º º¸ º º À Ò ÖÝ Ò Æº Ë Ô Ö ´¾¼¼¾µ ÓÑÔÙØ Ø ÓÒ ÐÐݹ ÒØ Ò× Ú
ÓÒÓÑ ØÖ
× Ù× Ò



×ØÖ ÙØ Ñ ØÖ Ü¹ÔÖÓ Ö ÑÑ Ò Ð Ò Ù ¸ È ÐÓ×ÓÔ
Ð ÌÖ Ò×
Ø ÓÒ× Ó Ø ÊÓÝ Ð ËÓ
ØÝ Ó ÄÓÒ ÓÒ¸

ËÖ × ¸ ¿ ¼¸ ½¾ ¹½¾ º



℄ ÖÒ Ò Þ Ð ÓÑ ÖÓ¸ º ´¾¼¼ µ Ä Å»ÅÈÁ Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò ÙÒ Ö ÆÍ Ç
Ø Ú ¸



Ø
ºÙ Öº ×» Ú Ö¹ Ò»ÑÔ Ø º



℄ Ê
Ò ¸  ´¾¼¼¾µ È Ö ÐÐ Ð ×ØÖ ÙØ ÖÒ Ð ×Ø Ñ Ø ÓÒ¸ ÓÑÔÙØ Ø ÓÒ Ð ËØ Ø ×Ø
× ² Ø Ò ÐÝ× ×¸

¼¸ ¾ ¿¹¿¼¾º



℄ ËÛ ÒÒ¸ º º ´¾¼¼¾µ Å Ü ÑÙÑ Ð Ð ÓÓ ×Ø Ñ Ø ÓÒ Ù× Ò Ô Ö ÐÐ Ð
ÓÑÔÙØ Ò Ò ÒØÖÓ Ù
Ø ÓÒ ØÓ



ÅÈÁ¸ ÓÑÔÙØ Ø ÓÒ Ð
ÓÒÓÑ
׸ ½ ¸ ½ ¹½ º









¾

À ÈÌ Ê ¾½







Ò Ð ÔÖÓ
Ø
ÓÒÓÑ ØÖ
×Ø Ñ Ø ÓÒ Ó Ê ÑÓ Ð



ÌÀÁË ÁË ÆÇÌ ÁÆÁËÀ ¹ Á ÆÇÊ ÁÌ ÇÊ ÆÇÏ



ÁÒ Ø × Ð ×Ø
ÔØ Ö Û ³ÐÐ Ó Ø ÖÓÙ ÛÓÖ Ü ÑÔÐ Ø Ø
ÓÑ Ò × ÒÙÑ Ö Ó Ø



ØÓÔ
× Û ³Ú × Òº Ï ³ÐÐ Ó × ÑÙÐ Ø Ñ Ø Ó Ó ÑÓÑ ÒØ× ×Ø Ñ Ø ÓÒ Ó Ö Ð Ù× Ò ××




Ý
Ð ÑÓ Ð¸ × Ñ Ð Ö ØÓ Û Ø Î Ð ÖÖ Ñ ´¾¼¼¾µ Ó ×º





½º Ø

Ï ³ÐÐ Ú ÐÓÔ ÑÓ Ð ÓÖ ÔÖ Ú Ø
ÓÒ×ÙÑÔØ ÓÒ Ò Ö Ð ÖÓ×× ÔÖ Ú Ø ÒÚ ×ØÑ Òغ Ì



Ø Ö Ó Ø Ò ÖÓÑ Ø ÍË ÙÖ Ù Ó
ÓÒÓÑ
Ò ÐÝ× × ´ µ Æ Ø ÓÒ Ð ÁÒ
ÓÑ Ò



ÈÖÓ Ù
Ø

ÓÙÒØ× ´ÆÁÈ µ¸ Ì Ð ½½º½º ¸ Ä Ò × ¾ Ò ´ÝÓÙ
Ò ÓÛÒÐÓ ÕÙ ÖØ ÖÐÝ Ø



ÖÓÑ ½ ¹Á ØÓ Ø ÔÖ × Òصº Ì Ø Û Ù× Ö Ò Ø Ð Ö
Ø ºÑº Ì × Ø × Ö Ð



´
ÓÒ×Ø ÒØ ÓÐÐ Ö×µº



Ì ÔÖÓ Ö Ñ ÔÐÓØ×ºÑ Û ÐÐ Ñ Û ÔÐÓØ׸ Ò
ÐÙ Ò ÙÖ × ½ Ø ÓÙ ¿º Ö×Ø ÐÓÓ Ò



Ø Ø ÔÐÓØ ÓÖ Ð Ú Ð׸ Û
Ò × Ø Ø Ö Ð
ÓÒ×ÙÑÔØ ÓÒ Ò ÒÚ ×ØÑ ÒØ Ö
Ð ÖÐÝ ÒÓÒ×Ø ¹



Ø ÓÒ ÖÝ ´×ÙÖÔÖ × ¸ ×ÙÖÔÖ × µº Ì Ö ÔÔ Ö× ØÓ ×ÓÑ Û Ø Ó ×ØÖÙ
ØÙÖ Ð
Ò Ò Ø



Ñ ¹½ ¼³×º



ÄÓÓ Ò Ø ÖÓÛØ Ö Ø ×¸ Ø × Ö × ÓÖ
ÓÒ×ÙÑÔØ ÓÒ × Ò ÜØ Ò Ô Ö Ó Ó ÖÓÛØ



ÒØ ½ ¼³×¸
ÓÑ Ò ÑÓÖ ÑÓ Ö Ø ÒØ ¼³×º Ì ÚÓÐ Ø Ð ØÝ Ó ÖÓÛØ Ó
ÓÒ×ÙÑÔØ ÓÒ



×
Ð Ò ×ÓÑ Û Ø¸ ÓÚ Ö Ø Ñ º ÄÓÓ Ò Ø ÒÚ ×ØÑ Òظ Ø Ö Ö ×ÓÑ ÒÓØ Ð Ô Ö Ó ×



Ó ÚÓÐ Ø Ð ØÝ Ò Ø Ñ ¹½ ¼³× Ò ÖÐÝ ½ ¼³×¸ ÓÖ Ü ÑÔÐ º Ë Ò
½ ¼ ÓÖ ×Ó¸ ÚÓÐ Ø Ð ØÝ



× Ñ× ØÓ Ú
Ð Ò º




ÓÒÓÑ
ÑÓ Ð× ÓÖ ÖÓÛØ Ó Ø Ò ÑÔÐÝ Ø Ø Ø Ö × ÒÓ ÐÓÒ Ø ÖÑ ÖÓÛØ ´ µ ¹ Ø



Ø Ø Ø Ø ÑÓ Ð× Ò Ö Ø × ×Ø Ø ÓÒ ÖÝ Ò Ö Ó
º ÇÖ¸ Ø Ø Ø Ø Ø ÑÓ Ð×









ÙÖ ½º ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ Ä Ú Ð×









Ü ÑÔÐ ×»Ê »Ð Ú Ð׺ Ô×









ÙÖ ¾º ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ ÖÓÛØ Ê Ø ×









Ü ÑÔÐ ×»Ê » ÖÓÛØ º Ô×









¾

¿º Ê Í ÇÊÅ ÅÇ Ä ¾









ÙÖ ¿º ÓÒ×ÙÑÔØ ÓÒ Ò ÁÒÚ ×ØÑ Òظ Ò Ô ×× ÐØ Ö









Ü ÑÔÐ ×»Ê » ÐØ Ö º Ô×









Ò Ö Ø Ò × ØÓ Ô ×× Ø ÖÓÙ Ø ÒÚ Ö× Ó ÐØ Öº Ï ³ÐÐ ÓÐÐÓÛ Ø ×¸ Ò Ò Ö Ø



×Ø Ø ÓÒ ÖÝ Ù× Ò ××
Ý
Ð Ø Ý ÔÔÐÝ Ò Ø Ò Ô ×× ÐØ Ö Ó Ö ×Ø ÒÓ Ò ØÞ Ö Ð



´½ µº Ì ÐØ Ö Ø × Ò ÙÖ ¿º Ï ³ÐÐ ØÖÝ ØÓ ×Ô
Ý Ò
ÓÒÓÑ
ÑÓ Ð Ø Ø
Ò



Ò Ö Ø × Ñ Ð Ö Ø º ÌÓ Ø Ø Ø Ø ÐÓÓ Ð Ø Ð Ú Ð× ÓÖ
ÓÒ×ÙÑÔØ ÓÒ Ò ÒÚ ×ØÑ Òظ



Û ³ Ò ØÓ ÔÔÐÝ Ø ÒÚ Ö× Ó Ø Ò Ô ×× ÐØ Öº





¾º ÒÊ ÅÓ Ð

ÓÒ× Ö Ú ÖÝ × ÑÔÐ ×ØÓ
×Ø
ÖÓÛØ ÑÓ Ð ´Ø × Ñ Ù× Ý Å Ð Ö Ò Å Ð Ö



´¾¼¼¿µ¸ Û Ø Ñ ÒÓÖ ÒÓØ Ø ÓÒ Ð Ö Ò
µ



∞ t

max{ct ,kt }∞ E0

t=0 t=0 β U (ct )

α

ct + kt = (1 − δ) kt−1 + φt kt−1

log φt = ρ log φt−1 + ǫt

2

ǫt ∼ IIN (0, σǫ )



××ÙÑ Ø Ø Ø ÙØ Ð ØÝ ÙÒ
Ø ÓÒ ×



c1−γ − 1

t

U (ct ) =

1−γ

• β × Ø ×
ÓÙÒØ Ö Ø



• δ × Ø ÔÖ
Ø ÓÒ Ö Ø Ó
Ô Ø Ð



• α × Ø Ð ×Ø
ØÝ Ó ÓÙØÔÙØ Û Ø Ö ×Ô
Ø ØÓ
Ô Ø Ð



• φ × Ø
ÒÓÐÓ Ý × Ó
Ø Ø × ÔÓ× Ø Ú º φt × Ó × ÖÚ Ò Ô Ö Ó tº

• γ × Ø
Ó
ÒØ Ó Ö Ð Ø Ú Ö × Ú Ö× ÓÒº Ï Ò γ = 1¸ Ø ÙØ Ð ØÝ ÙÒ
Ø ÓÒ ×



ÐÓ Ö Ø Ñ
º



• ÖÓ×× ÒÚ ×ØÑ Òظ it ¸ × Ø
Ò Ò Ø
Ô Ø Ð ×ØÓ






it = kt − (1 − δ) kt−1



• Û ××ÙÑ Ø Ø Ø Ò Ø Ð
ÓÒ Ø ÓÒ (k0 , θ0 ) × Ú Òº

2 ′

Ï ÛÓÙÐ Ð ØÓ ×Ø Ñ Ø Ø Ô Ö Ñ Ø Ö× θ = β, γ, δ, α, ρ, σǫ Ù× Ò Ø Ø Ø ØÛ Ú



ÓÒ
ÓÒ×ÙÑÔØ ÓÒ Ò ÒÚ ×ØÑ Òغ Ì × ÔÖÓ Ð Ñ × Ú ÖÝ × Ñ Ð Ö ØÓ Ø ÅÅ ×Ø Ñ Ø ÓÒ Ó



Ø ÔÓÖØ ÓÐ Ó ÑÓ Ð ×
Ù×× Ò Ë
Ø ÓÒ× ½½ Ò ½¾º ÇÒ

Ò Ö Ú Ø ÙÐ Ö
ÓÒ Ø ÓÒ



Ò Ø × Ñ Û Ý Û Ø Ö ¸ Ò Ù× Ø ØÓ Ò ÅÅ ×Ø Ñ ØÓÖº Ì Ø ÔÔÖÓ
Û ×



ÒÓØ Ú ÖÝ ×Ù

×× Ùи Ö
Ðк ÆÓÛ Û ³ÐÐ ØÖÝ ØÓ Ù× ×ÓÑ ÑÓÖ Ò ÓÖÑ Ø Ú ÑÓÑ ÒØ
ÓÒ Ø ÓÒ×



ØÓ × Û Ø ØØ Ö Ö ×ÙÐØ׺





¿º Ö Ù
ÓÖÑ ÑÓ Ð

Å
ÖÓ
ÓÒÓÑ
Ø Ñ × Ö × Ø Ö Ó Ø Ò ÑÓ Ð Ù× Ò Ú
ØÓÖ ÙØÓÖ Ö ×× ÓÒ׺



Ú
ØÓÖ ÙØÓ Ö ×× ÓÒ × Ù×Ø Ø Ú
ØÓÖ Ú Ö× ÓÒ Ó Ò ÙØÓÖ Ö ×× Ú ÑÓ Ðº Ä Ø yt

º ËÇÄÎÁÆ ÌÀ ËÌÊÍ ÌÍÊ Ä ÅÇ Ä ¾







G¹Ú
ØÓÖ Ó Ó ÒØÐÝ Ô Ò ÒØ Ú Ö Ð ×º Î Ê´Ôµ ÑÓ Ð ×





yt = c + A1 yt−1 + A2 yt−2 + ... + Ap yt−p + vt



Û c × G¹Ú
ØÓÖ Ó Ô Ö Ñ Ø Ö׸ Ò Aj ,

Ö ½¸¾¸ººº¸Ô, Ö G×G Ñ ØÖ
× Ó Ô Ö Ñ Ø Ö׺



Ä Ø vt = Rt ηt ¸ Û Ö ηt ∼ IIN (0, I2 )¸ Ò Rt × ÙÔÔ Ö ØÖ Ò ÙÐ Öº ËÓ V (vt |yt−1 , ...yt−p ) =

′

Rt Rt º ÓÙ
Ò Ø Ò Ó Î Ê ÑÓ Ð × Ø Ö Ù
ÓÖÑ Ó ÝÒ Ñ
Ð Ò Ö × ÑÙÐØ Ò ÓÙ×



ÕÙ Ø ÓÒ× ÑÓ Ð Û Ö ÐÐ Ó Ø Ú Ö Ð × Ö ØÖ Ø × Ò Ó ÒÓÙ׺ Ð ÖÐݸ ÐÐ Ó Ø



Ú Ö Ð × Ö Ò Ó ÒÓÙ׸ ÓÒ ÛÓÙÐ Ò ×ÓÑ ÓÖÑ Ó Ø ÓÒ Ð Ò ÓÖÑ Ø ÓÒ ØÓ ÒØ Ý



×ØÖÙ
ØÙÖ Ð ÑÓ Ðº ÙØ Û ÐÖ Ý Ú ×ØÖÙ
ØÙÖ Ð ÑÓ Ð¸ Ò Û ³Ö ÓÒÐÝ Ó Ò ØÓ Ù×



Ø Î Ê ØÓ ÐÔ Ù× ×Ø Ñ Ø Ø Ô Ö Ñ Ø Ö׺ Û Ðй ØØ Ò Ö Ù
ÓÖÑ ÑÓ Ð Û ÐÐ



ÕÙ Ø ÓÖ Ø ÔÙÖÔÓ× º



Ï ³Ö × Ò Ø Ø ÓÙÖ Ø × Ñ× ØÓ Ú Ô ×Ó × Û Ö Ø Ú Ö Ò
Ó ÖÓÛØ Ö Ø ×



Ò ÐØ Ö Ø × ÒÓÒ¹
ÓÒ×Ø Òغ Ì × Ö Ò × Ù× ØÓ Ø Ò Ö Ð Ö Ó ×ØÓ
×Ø
ÚÓÐ Ø Ð Øݺ



Ï Ø ÓÙØ Ó Ò ÒØÓ Ø Ð׸ Û ³ÐÐ Ù×Ø
ÓÒ× Ö Ø ÜÔÓÒ ÒØ Ð Ê À ÑÓ Ð Ó Æ Ð×ÓÒ



´½ ½µ × ÔÖ × ÒØ Ò À Ñ ÐØÓÒ ´½ ¸ Ô º ¹ µº



Ò ht = vec∗ (Rt )¸ Ø Ú
ØÓÖ Ó Ð Ñ ÒØ× Ò Ø ÙÔÔ Ö ØÖ Ò Ð Ó Rt ´ Ò ÓÙÖ
×



Ø × × 3 × 1 Ú
ØÓÖµº Ï ××ÙÑ Ø Ø Ø Ð Ñ ÒØ× ÓÐÐÓÛ







log hjt = κj + P(j,.) |vt−1 | − 2/π + ℵ(j,.)vt−1 + G(j,.) log ht−1

Ì Ú Ö Ò
Ó Ø Î Ê ÖÖÓÖ Ô Ò × ÙÔÓÒ Ø× ÓÛÒ Ô ×ظ × Û ÐÐ × ÙÔÓÒ Ø Ô ×Ø



Ö Ð Þ Ø ÓÒ× Ó Ø × Ó
׺





• Ì × × Ò Ê À´½¸½µ ×Ô

Ø ÓÒº Ì Ó Ú ÓÙ× Ò Ö Ð Þ Ø ÓÒ × Ø Ê À´r, mµ



×Ô

Ø ÓÒ¸ Û Ø ÐÓÒ Ö Ð × ´r ÓÖ Ð × Ó v¸ m ÓÖ Ð × Ó hµº

• Ì Ú ÒØ Ó Ø Ê À ÓÖÑÙÐ Ø ÓÒ × Ø Ø Ø Ú Ö Ò
× ××ÙÖ ÐÝ



ÔÓ× Ø Ú Û Ø ÓÙØ Ô Ö Ñ Ø Ö Ö ×ØÖ
Ø ÓÒ×



• Ì Ñ ØÖ Ü P × Ñ Ò× ÓÒ 3 × 2º

• Ì Ñ ØÖ Ü G × Ñ Ò× ÓÒ 3 × 3º



• Ì Ñ ØÖ Ü ℵ ´Ö Ñ Ò Ö ØÓ × Ð Ø × × Ò Ð Ô µ × Ñ Ò× ÓÒ 2 × 2º

• Ì Ô Ö Ñ Ø Ö Ñ ØÖ Ü ℵ ÐÐÓÛ× ÓÖ Ð Ú Ö ¸ ×Ó Ø Ø ÔÓ× Ø Ú Ò Ò Ø Ú × Ó
×




Ò Ú ×ÝÑÑ ØÖ

Ø× ÙÔÓÒ ÚÓÐ Ø Ð Øݺ



• Ï Û ÐÐ ÔÖÓ ÐÝ Û ÒØ ØÓ Ö ×ØÖ
Ø Ø × Ô Ö Ñ Ø Ö Ñ ØÖ
× Ò ×ÓÑ Û Ýº ÓÖ



Ò×Ø Ò
¸ G
ÓÙÐ ÔÐ Ù× ÐÝ ÓÒ Ðº





Ï Ø Ø ÓÚ ×Ô

Ø ÓÒ¸ Û Ú





ηt ∼ IIN (0, I2 )

ηt = R−1 vt

t



Ò Û ÒÓÛ ÓÛ ØÓ
Ð
ÙÐ Ø Rt Ò vt ¸ Ú Ò Ø Ø Ò Ø Ô Ö Ñ Ø Ö׺ Ì Ù׸ Ø ×



×ØÖ ÓÖÛ Ö ØÓ Ó ×Ø Ñ Ø ÓÒ Ý Ñ Ü ÑÙÑ Ð Ð ÓÓ º Ì × Û ÐÐ Ø ×
ÓÖ Ò Ö ØÓÖº









º Ê ×ÙÐØ× ´Áµ Ì ×
ÓÖ Ò Ö ØÓÖ

º ËÓÐÚ Ò Ø ×ØÖÙ
ØÙÖ Ð ÑÓ Ð

Ì Ö×Ø ÓÖ Ö
ÓÒ Ø ÓÒ ÓÖ Ø ×ØÖÙ
ØÙÖ Ð ÑÓ Ð ×





c−γ = βEt c−γ 1 − δ + αφt+1 kt

t t+1

α−1

º ËÇÄÎÁÆ ÌÀ ËÌÊÍ ÌÍÊ Ä ÅÇ Ä ¾ ¼







ÓÖ

−1



βEt c−γ α−1 γ

ct = t+1 1−δ+ αφt+1 kt

Ì ÔÖÓ Ð Ñ × Ø Ø Û
ÒÒÓØ ×ÓÐÚ ÓÖ ct × Ò
Û Ó ÒÓØ ÒÓÛ Ø ×ÓÐÙØ ÓÒ ÓÖ Ø



ÜÔ
Ø Ø ÓÒ Ò Ø ÔÖ Ú ÓÙ× ÕÙ Ø ÓÒº



Ì Ô Ö Ñ Ø Ö Þ ÜÔ
Ø Ø ÓÒ× Ð ÓÖ Ø Ñ ´È Ò À Ò Ò Å Ö
ظ ½ ¼µ¸ ×



Ñ Ò× Ó ×ÓÐÚ Ò Ø ÔÖÓ Ð Ñº Ì ÜÔ
Ø Ø ÓÒ× Ø ÖÑ × Ö ÔÐ
Ý Ô Ö Ñ ØÖ
ÙÒ
Ø ÓÒº



× ÐÓÒ × Ø Ô Ö Ñ ØÖ
ÙÒ
Ø ÓÒ × Ü Ð ÒÓÙ ÙÒ
Ø ÓÒ Ó Ú Ö Ð × Ø Ø Ú Ò



Ö Ð Þ Ò Ô Ö Ó t¸ Ø Ö Ü ×Ø Ô Ö Ñ Ø Ö Ú ÐÙ × Ø Ø Ñ Ø ÔÔÖÓÜ Ñ Ø ÓÒ ×
ÐÓ× ØÓ



Ø ØÖÙ ÜÔ
Ø Ø ÓÒ × × × Ö º Ï Û ÐÐ ÛÖ Ø Ø ÔÔÖÓÜ Ñ Ø ÓÒ





Et c−γ 1 − δ + αφt+1 kt

t+1

α−1

≃ exp (ρ0 + ρ1 log φt + ρ2 log kt−1 )



ÓÖ Ú Ò Ú ÐÙ × Ó Ø Ô Ö Ñ Ø Ö× Ó Ø × ÔÔÖÓÜ Ñ Ø Ò ÙÒ
Ø ÓÒ¸ Û
Ò ×ÓÐÚ ÓÖ ct ¸ Ò



Ø Ò ÓÖ kt Ù× Ò Ø Ö ×ØÖ
Ø ÓÒ Ø Ø



α

ct + kt = (1 − δ) kt−1 + φt kt−1



Ì × ÐÐÓÛ× Ù× ØÓ Ò Ö Ø × Ö × {(ct , kt )}º Ì Ò Ø ÜÔ
Ø Ø ÓÒ× ÔÔÖÓÜ Ñ Ø ÓÒ ×



ÙÔ Ø Ý ØØ Ò





c−γ 1 − δ + αφt+1 kt

t+1

α−1

= exp (ρ0 + ρ1 log φt + ρ2 log kt−1 ) + ηt



Ý ÒÓÒÐ Ò Ö Ð ×Ø ×ÕÙ Ö ×º Ì ¾ ×Ø Ô ÔÖÓ
ÙÖ Ó Ò Ö Ø Ò Ø Ò ÙÔ Ø Ò Ø



Ô Ö Ñ Ø Ö× Ó Ø ÔÔÖÓÜ Ñ Ø ÓÒ ØÓ ÜÔ
Ø Ø ÓÒ× × Ø Ö Ø ÙÒØ Ð Ø Ô Ö Ñ Ø Ö× ÒÓ ÐÓÒ Ö




Ò º Ï Ò Ø × × Ø
× ¸ Ø ÜÔ
Ø Ø ÓÒ× ÙÒ
Ø ÓÒ × Ø ×Ø Ø ØÓ Ø Ò Ö Ø



Ø º × ÐÓÒ Ø × Ö
ÒÓÙ Ô Ö Ñ ØÖ
ÑÓ Ð ØÓ Ò
ÓÑÔ ×× Ø ØÖÙ ÜÔ
Ø Ø ÓÒ×



ÙÒ
Ø ÓÒ¸ Ø
Ò Ñ ØÓ ÕÙ Ð ØÓ Ø ØÖÙ ÜÔ
Ø Ø ÓÒ× ÙÒ
Ø ÓÒ Ý Ù× Ò ÐÓÒ



ÒÓÙ × ÑÙÐ Ø ÓÒº

2 ′

Ì Ù׸ Ú Ò Ø Ô Ö Ñ Ø Ö× Ó Ø ×ØÖÙ
ØÙÖ Ð ÑÓ Ð¸ θ = β, γ, δ, α, ρ, σǫ ¸ Û
Ò

Ò Ö Ø {(ct , kt )} Ù× Ò Ø

Ø È º ÖÓÑ Ø × Û
Ò Ø Ø × Ö × {(ct , it )} Ù× Ò



it = kt − (1 − δ) kt−1 º Ì ×
Ò Ù× ØÓ Ó ÅÅ ×Ø Ñ Ø ÓÒ Ù× Ò Ø ×
ÓÖ × Ó Ø



Ö Ù
ÓÖÑ ÑÓ Ð ØÓ Ò ÑÓÑ ÒØ׸ Ù× Ò Ø × ÑÙÐ Ø Ø ÖÓÑ Ø ×ØÖÙ
ØÙÖ Ð ÑÓ Ðº

ÐÓ Ö Ô Ý



½℄ Ö Ðº Å ´¾¼¼ µ ÆÓØ ÓÒ È Ö ÐÐ Ð Þ Ò Ø È Ö Ñ Ø Ö Þ ÜÔ
Ø Ø ÓÒ× Ð ÓÖ Ø Ñº



¾℄ Ò À Ò¸ Ϻ Ò Å Ö
ظ º ´½ ¼µ ËÓÐÚ Ò Ø ×ØÓ
×Ø
ÖÓÛØ ÑÓ Ð Ý Ô Ö Ñ Ø Ö Þ ÜÔ
Ø ¹



Ø ÓÒ׸ ÂÓÙÖÒ Ð Ó Ù× Ò ×× Ò
ÓÒÓÑ
× ËØ Ø ×Ø
׸ ¸ ¿½¹¿ º

¿℄ À Ñ ÐØÓÒ¸ º ´½ µ Ì Ñ Ë Ö × Ò ÐÝ× ×¸ ÈÖ Ò
ØÓÒ ÍÒ Úº ÈÖ ××

℄ Å Ð Ö¸ ĺ Ò Å Ð Ö¸ ˺ ´¾¼¼¿µ Å ØÐ
Ó ÓÖ ËÓÐÚ Ò Æ Ó
Ð ××
Ð ÖÓÛ ÅÓ Ð Û Ø È Ö Ñ ØÖ Þ ÜÔ
Ø Ø ÓÒ×



℄ Æ Ð×ÓÒ¸ º ´½ ½µ ÓÒ Ø ÓÒ Ð Ø ÖÓ×
×Ø
ØÝ × ×× Ø Ö ØÙÖÒ× Ò Û ÔÔÖÓ
¸
ÓÒÓÑ ØÖ
¸ ¸



¿ ¹ ¼º



℄ Î Ð ÖÖ Ñ ¸ º ´¾¼¼¾µ ËØ Ø ×Ø
Ð ÒÓÒÐ Ò Ö Ø × Ò Ø Ù× Ò ××
Ý
Ð
ÐÐ Ò ÓÖ



Ø
ÒÓÒ
Ð Ê ÑÓ Ð¸
ÓÒÓÑ
Ê × Ö
¸ Ö Ð Ê × ÖÚ Ò Ó Ë Ò Ö Ò
×
Óº



ØØÔ »» ×ºÖ Ô
ºÓÖ »Ô» Ô» Ô»¾¼¼¾¹½¿º ØÑÐ









¾ ½

À ÈÌ Ê ¾¾







ÁÒØÖÓ Ù
Ø ÓÒ ØÓ Ç
Ø Ú



Ï Ý × Ç
Ø Ú Ò Ù× Ö ¸ × Ò
Ø³× ÒÓØ Ø Ø Û Ðй ÒÓÛÒ Ý
ÓÒÓÑ ØÖ
Ò×



Ï Ðи
Ù× Ø × ÕÙ Ð ØÝ ÒÚ ÖÓÒÑ ÒØ Ø Ø × × ÐÝ ÜØ Ò× Ð ¸ Ù× × Û ÐÐ¹Ø ×Ø



Ò Ô Ö ÓÖÑ Ò
ÒÙÑ Ö
Ð Ð Ö Ö ×¸ Ø × Ð
Ò× ÙÒ Ö Ø ÆÍ Èĸ ×Ó ÝÓÙ
Ò



Ø Ø ÓÖ Ö Ò ÑÓ Ý Ø ÝÓÙ Ð ¸ Ò Ø ÖÙÒ× ÓÒ ÓØ ÆÍ»Ä ÒÙܸ Å
ÇË Ò



Ï Ò ÓÛ× ×Ý×Ø Ñ׺ ÁØ³× Ð×Ó ÕÙ Ø ×Ý ØÓ Ð ÖÒº







½º ØØ Ò ×Ø ÖØ

Ø Ø È Ö ÐÐ ÐÃÒÓÔÔ Ü ¸ × Û × ×
Ö Ò Ë
Ø ÓÒ ¿º Ì Ò ÙÖÒ Ø Ñ ¸



Ò ÓÓØ ÝÓÙÖ
ÓÑÔÙØ Ö Û Ø Øº Ì × Û ÐÐ Ú ÝÓÙ Ø × × Ñ È Ð ¸ ÙØ Û Ø ÐÐ Ó



Ø Ü ÑÔÐ ÔÖÓ Ö Ñ× Ö Ý ØÓ ÖÙÒº Ì ØÓÖ ×
ÓÒ ÙÖ Û Ø Ñ
ÖÓ ØÓ Ü
ÙØ Ø



ÔÖÓ Ö Ñ× Ù× Ò Ç
Ø Ú ¸ Û
× Ó
ÓÙÖ× Ò×Ø ÐÐ º ÖÓÑ Ø × ÔÓ Òظ Á ××ÙÑ ÝÓÙ Ö



ÖÙÒÒ Ò Ø ´ÓÖ × ØØ Ò Ò Ø
ÓÑÔÙØ Ö ÖÓÓÑ
ÖÓ×× Ø ÐÐ ÖÓÑ ÑÝ Ó
µ¸ ÓÖ Ø Ø



ÝÓÙ Ú
ÓÒ ÙÖ ÝÓÙÖ
ÓÑÔÙØ Ö ØÓ Ð ØÓ ÖÙÒ Ø ¶ºÑ Ð × Ñ ÒØ ÓÒ ÐÓÛº







¾º × ÓÖØ ÒØÖÓ Ù
Ø ÓÒ

Ì Ó
Ø Ú Ó Ø × ÒØÖÓ Ù
Ø ÓÒ × ØÓ Ð ÖÒ Ù×Ø Ø ×
× Ó Ç
Ø Ú º Ì Ö Ö ÓØ Ö



Û Ý× ØÓ Ù× Ç
Ø Ú ¸ Û
Á Ò
ÓÙÖ ÝÓÙ ØÓ ÜÔÐÓÖ º Ì × Ö Ù×Ø ×ÓÑ ÖÙ Ñ ÒØ׺



Ø Ö Ø ×¸ ÝÓÙ
Ò ÐÓÓ Ø Ø Ü ÑÔÐ ÔÖÓ Ö Ñ× ×
ØØ Ö Ø ÖÓÙ ÓÙØ Ø Ó
ÙÑ ÒØ ´ Ò



Ø Ø Ñ¸ Ò ÖÙÒ Ø Ñµ ØÓ Ð ÖÒ ÑÓÖ ÓÙØ ÓÛ Ç
Ø Ú
Ò Ù× ØÓ Ó
ÓÒÓÑ ØÖ
׺



ËØÙ ÒØ× Ó Ñ Ò ÝÓÙÖ ÔÖÓ Ð Ñ × Ø× Û ÐÐ Ò
ÐÙ Ü Ö
× × Ø Ø
Ò ÓÒ Ý ÑÓ Ý Ò



Ø Ü ÑÔÐ ÔÖÓ Ö Ñ× Ò Ö Ð Ø Ú ÐÝ Ñ ÒÓÖ Û Ý׺ ËÓ ×ØÙ Ý Ø Ü ÑÔÐ ×



Ç
Ø Ú
Ò Ù× ÒØ Ö
Ø Ú Ðݸ ÓÖ Ø
Ò Ù× ØÓ ÖÙÒ ÔÖÓ Ö Ñ× Ø Ø Ö ÛÖ ØØ Ò Ù×¹



Ò Ø ÜØ ØÓÖº Ï ³ÐÐ Ù× Ø × ×
ÓÒ Ñ Ø Ó ¸ ÔÖ Ô Ö Ò ÔÖÓ Ö Ñ× Û Ø Æ Ø¸ Ò
ÐÐ Ò



Ç
Ø Ú ÖÓÑ Û Ø ÒØ ØÓÖº Ì ÔÖÓ Ö Ñ Ö×ØºÑ Ø× Ù× ×Ø ÖØ º ÌÓ ÖÙÒ Ø ×¸ ÓÔ Ò Ø ÙÔ



Û Ø Æ Ø ´ Ý Ò Ò Ø
ÓÖÖ
Ø Ð Ò× Ø » ÓÑ » ÒÓÔÔ Ü» × ØÓÔ»
ÓÒÓÑ ØÖ
×

ÓÐ Ö Ò
Ð
Ò ÓÒ Ø
ÓÒµ Ò Ø Ò ØÝÔ ÌÊĹ Ä̹Ӹ ÓÖ Ù× Ø Ç
Ø Ú Ø Ñ Ò



Ø Ë ÐÐ Ñ ÒÙ ´× ÙÖ ½µº



ÆÓØ Ø Ø Ø ÓÙØÔÙØ × ÒÓØ ÓÖÑ ØØ Ò ÔÐ × Ò Û Ýº Ì Ø³×
Ù× ÔÖ ÒØ ´µ

Ó ×Ò³Ø ÙØÓÑ Ø
ÐÐÝ ×Ø ÖØ Ò ÛÐ Ò º Ø Ö×ØºÑ ×Ó Ø ØØ Ø Ð Ò Ö × ÔÖ ÒØ ´ ÐÐÓ

ÛÓÖÐ Ò µ Ò Ö ¹ÖÙÒ Ø ÔÖÓ Ö Ñº



Ï Ò ØÓ ÒÓÛ ÓÛ ØÓ ÐÓ Ò × Ú Ø º Ì ÔÖÓ Ö Ñ ×
ÓÒ ºÑ × ÓÛ× ÓÛº ÇÒ




ÝÓÙ Ú ÖÙÒ Ø ×¸ ÝÓÙ Û ÐÐ Ò Ø Ð Ü ÒØ Ö
ØÓÖÝ
ÓÒÓÑ ØÖ
×» Ü ÑÔÐ ×»Ç
Ø Ú ÁÒØÖÓ»

ÓÙ Ñ Ø Ú ÐÓÓ Ø Ø Û Ø Æ Ø ØÓ × Ç
Ø Ú ³× ÙÐØ ÓÖÑ Ø ÓÖ × Ú Ò Ø º



×
ÐÐݸ ÝÓÙ Ú Ø Ò Ò Ë ÁÁ Ø ÜØ Ð ¸ Ò Ñ ÓÖ Ü ÑÔÐ ÑÝ Ð º Ø ¸ ÓÖÑ



Ó ÒÙÑ Ö× × Ô Ö Ø Ý ×Ô
׸ Ù×Ø Ù× Ø
ÓÑÑ Ò ÐÓ ÑÝ Ð º Ø º Ø Ö Ú Ò



ÓÒ ×Ó¸ Ø Ñ ØÖ Ü ÑÝ Ð ´Û Ø ÓÙØ ÜØ Ò× ÓÒµ Û ÐÐ
ÓÒØ Ò Ø Ø º



ÈÐ × Ú ÐÓÓ Ø ÓÑÑÓÒÇÔ Ö Ø ÓÒ×ºÑ ÓÖ Ü ÑÔÐ × Ó ÓÛ ØÓ Ó ×ÓÑ ×




Ø Ò × Ò Ç
Ø Ú º ÆÓÛ Ø Ø Û ³Ö ÓÒ Û Ø Ø ×
׸ Ú ÐÓÓ ØØ Ç
Ø Ú ÔÖÓ Ö Ñ×



Ø Ø Ö Ò
ÐÙ × Ü ÑÔР׺ Á ÝÓÙ Ö ÐÓÓ Ò Ø Ø ÖÓÛ× Ð È Ú Ö× ÓÒ Ó Ø ×



¾ ¾

¿º Á ÇÍ³Ê ÊÍÆÆÁÆ ÄÁÆÍ ÁÆËÌ ÄÄ ÌÁÇƺºº ¾ ¿









ÙÖ ½º ÊÙÒÒ Ò Ò Ç
Ø Ú ÔÖÓ Ö Ñ









Ó
ÙÑ Òظ Ø Ò ÝÓÙ × ÓÙÐ Ð ØÓ
Ð
ÓÒ Ð Ò × ØÓ ÓÔ Ò Ø Ñº Á ÒÓظ Ø Ü ÑÔÐ



ÔÖÓ Ö Ñ× Ö Ú Ð Ð Ö Ò Ø ×ÙÔÔÓÖØ Ð × Ò ØÓ ÖÙÒ Ø × Ö Ú Ð Ð Ö º



Ì Ó× Ô × Û ÐÐ ÐÐÓÛ ÝÓÙ ØÓ Ü Ñ Ò Ò Ú Ù Ð Ð ×¸ ÓÙØ Ó
ÓÒØ Üغ ÌÓ
ØÙ ÐÐÝ Ù×



Ø × Ð × ´ Ø Ò ÖÙÒ Ø Ñµ¸ ÝÓÙ × ÓÙÐ Ó ØÓ Ø ÓÑ Ô Ó Ø × Ó
ÙÑ Òظ × Ò




ÝÓÙ Û ÐÐ ÔÖÓ ÐÝ Û ÒØ ØÓ ÓÛÒÐÓ Ø Ô Ú Ö× ÓÒ ØÓ Ø Ö Û Ø ÐÐ Ø ×ÙÔÔÓÖØ Ð × Ò



Ü ÑÔР׺ ÇÖ Ø Ø ÓÓØ Ð º



Ì Ö Ö ×ÓÑ ÓØ Ö Ö ×ÓÙÖ
× ÓÖ Ó Ò
ÓÒÓÑ ØÖ
× Û Ø Ç
Ø Ú º ÓÙ Ñ Ø Ð ØÓ





Ø ÖØ
Ð
ÓÒÓÑ ØÖ
× Û Ø Ç
Ø Ú Ò Ø
ÓÒÓÑ ØÖ
× ÌÓÓÐ ÓÜ ¸ Û
× ÓÖ



Å ØÐ ¸ ÙØ ÑÙ
Ó Û

ÓÙÐ × ÐÝ Ù× Û Ø Ç
Ø Ú º





¿º Á ÝÓÙ³Ö ÖÙÒÒ Ò Ä ÒÙÜ Ò×Ø ÐÐ Ø ÓÒººº

Ì Ò ØÓ Ø Ø × Ñ Ú ÓÖ × ÓÙÒ ÓÒ Ø ¸ ÝÓÙ Ò ØÓ



• Ø Ø
ÓÐÐ
Ø ÓÒ Ó ×ÙÔÔÓÖØ ÔÖÓ Ö Ñ× Ò Ø Ü ÑÔР׸ ÖÓÑ Ø Ó
ÙÑ ÒØ



ÓÑ Ô º



• ÈÙØ Ø Ñ ×ÓÑ Û Ö ¸ Ò Ø ÐÐ Ç
Ø Ú ÓÛ ØÓ Ò Ø Ñ¸ º º¸ Ý ÔÙØØ Ò Ð Ò ØÓ



Ø ÅÝÇ
Ø Ú Ð × Ö
ØÓÖÝ Ò »Ù×Ö»ÐÓ
Ð»× Ö »Ó
Ø Ú »× Ø ¹Ñ

• Å ×ÙÖ Ò Ø × Ò×Ø ÐÐ Ò
ÓÒ ÙÖ ØÓ ÖÙÒ Ç
Ø Ú Ò Ù× ×ÝÒØ Ü ¹



Ð Ø Ò º ÓÔÝ Ø Ð » ÓÑ »
ÓÒÓÑ ØÖ
×»ºÒ Ø ÖÓÑ Ø ØÓ Ó Ø ×º ÇÖ¸



Ø Ø Ð Æ Ø ÓÒ ÙÖ Ø ÓÒ Ò × Ú Ø Ò ÝÓÙÖ °ÀÇÅ Ö
ØÓÖÝ Û Ø Ø



Ò Ñ ºÒ Ø º ÆÓØ ØÓ ÔÙØ ØÓÓ Ò ÔÓ ÒØ ÓÒ Ø¸ ÔÐ × ÒÓØ Ø Ø Ø Ö ×



Ô Ö Ó Ò Ø Ø Ò Ñ º



• ××Ó
Ø ¶ºÑ Ð × Û Ø Æ Ø ×Ó Ø Ø Ø Ý ÓÔ Ò ÙÔ Ò Ø ØÓÖ Û Ò ÝÓÙ
Ð




ÓÒ Ø Ñº Ì Ø × ÓÙÐ Ó Øº

À ÈÌ Ê ¾¿







ÆÓØ Ø ÓÒ Ò Ê Ú Û



• ÐÐ Ú
ØÓÖ× Û ÐÐ
ÓÐÙÑÒ Ú
ØÓÖ׸ ÙÒÐ ×× Ø Ý Ú ØÖ Ò×ÔÓ× ×ÝÑ ÓÐ ´ÓÖ Á ÓÖ Ø



ØÓ ÔÔÐÝ Ø × ÖÙÐ ¹ ÝÓÙÖ ÐÔ
Ø
Ò ØÝÔÓ× Ò Ö¼ÖÓÖ× × ÑÙ
ÔÔÖ
Ø µº



ÓÖ Ü ÑÔÐ ¸ xt × p×1 Ú
ØÓÖ¸ x′

t × 1×p Ú
ØÓÖº Ï Ò Á Ö Ö ØÓ p¹Ú
ØÓÖ¸



Á Ñ Ò
ÓÐÙÑÒ Ú
ØÓÖº







½º ÆÓØ Ø ÓÒ ÓÖ Ö ÒØ Ø ÓÒ Ó Ú
ØÓÖ× Ò Ñ ØÖ
×

¿¸ ÔØ Ö ½℄

∂s(θ)

Ä Ø s(·) : ℜp → ℜ Ö Ð Ú ÐÙ ÙÒ
Ø ÓÒ Ó Ø p¹Ú
ØÓÖ θ. Ì Ò

∂θ × ÓÖ Ò Þ



× p¹Ú
ØÓÖ¸

 ∂s(θ) 

∂θ1

 ∂s(θ) 

∂s(θ)  ∂θ2 

=

 º





∂θ º

 º 

∂s(θ)

∂θp

∂s(θ) ∂ 2 s(θ)

ÓÐÐÓÛ Ò Ø ×
ÓÒÚ ÒØ ÓÒ¸

∂θ ′ × 1×p Ú
ØÓÖ, Ò

∂θ∂θ ′ × p×p Ñ ØÖ Üº Ð×Ó¸



∂ 2 s(θ) ∂ ∂s(θ) ∂ ∂s(θ)

= = .

∂θ∂θ ′ ∂θ ∂θ ′ ∂θ ′ ∂θ

∂a′ x

Ü Ö
× ¿¿º ÓÖ a Ò x ÓØ p¹Ú
ØÓÖ׸ × ÓÛ Ø Ø

∂x = aº



Ä Ø f (θ) ℜp → ℜn n¹Ú
ØÓÖ Ú ÐÙ ÙÒ
Ø ÓÒ Ó Ø p¹Ú
ØÓÖ θº Ä Ø f (θ)′ Ø



1×n ØÖ Ò×ÔÓ× Ó f º Ì

∂ ′ ′ ∂

Ú ÐÙ Ò

∂θ f (θ) = ∂θ′ f (θ).

• ÈÖÓ Ù
Ø ÖÙÐ Ä Ø f (θ) ℜp → ℜn Ò h(θ) ℜp → ℜn n¹Ú
ØÓÖ Ú ÐÙ ÙÒ
Ø ÓÒ×



Ó Ø p¹Ú
ØÓÖ θº Ì Ò



∂ ∂ ∂

h(θ)′ f (θ) = h′ f + f′ h

∂θ ′ ∂θ ′ ∂θ ′

× Ñ Ò× ÓÒ 1 × p. ÔÔÐÝ Ò Ø ØÖ Ò×ÔÓ× Ø ÓÒ ÖÙÐ Û Ø



∂ ∂ ′ ∂ ′

h(θ)′ f (θ) = f h+ h f

∂θ ∂θ ∂θ

Û
× Ñ Ò× ÓÒ p × 1.

∂x′ Ax

Ü Ö
× ¿ º ÓÖ A p×p Ñ ØÖ Ü Ò x p×1 Ú
ØÓÖ¸ × ÓÛ Ø Ø

∂x = A + A′ º



• Ò ÖÙÐ Ä Ø f (·) ℜp → ℜn n¹Ú
ØÓÖ Ú ÐÙ ÙÒ
Ø ÓÒ Ó p¹Ú
ØÓÖ Ö ÙÑ Òظ



Ò Ð Ø g() ℜr → ℜp p¹Ú
ØÓÖ Ú ÐÙ ÙÒ
Ø ÓÒ Ó Ò r ¹Ú
ØÓÖ Ú ÐÙ Ö ÙÑ ÒØ



ρº Ì Ò

∂ ∂ ∂

′

f [g (ρ)] = f (θ) g(ρ)

∂ρ ∂θ ′ θ=g(ρ) ∂ρ′

× Ñ Ò× ÓÒ n × r.

∂ exp(x′ β)

Ü Ö
× ¿ º ÓÖ x Ò β ÓØ p×1 Ú
ØÓÖ׸ × ÓÛ Ø Ø

∂β = exp(x′ β)xº



¾

¾º ÇÆÎ Ê Æ ÅÇ Ë ¾







¾º ÓÒÚ Ö Ò ÑÓ ×

Ê Ò × ½¸ ÔØ Ö ℄ ¸ ÔØ Ö ℄º



Ï Û ÐÐ
ÓÒ× Ö × Ú Ö Ð ÑÓ × Ó
ÓÒÚ Ö Ò
º Ì Ö×Ø Ø Ö ÑÓ × ×
Ù×× Ö



× ÑÔÐÝ ÓÖ
ÖÓÙÒ º Ì ×ØÓ
×Ø
ÑÓ × Ö Ø Ó× Û
Û ÐÐ Ù× Ð Ø Ö Ò Ø




ÓÙÖ× º





Ò Ø ÓÒ ¿ º × ÕÙ Ò
× Ñ ÔÔ Ò ÖÓÑ Ø Ò ØÙÖ Ð ÒÙÑ Ö× {1, 2, ...} =

{n}∞

n=1 = {n} ØÓ ×ÓÑ ÓØ Ö × Ø¸ ×Ó Ø Ø Ø × Ø × ÓÖ Ö

ÓÖ Ò ØÓ Ø Ò ØÙÖ Ð



ÒÙÑ Ö× ××Ó
Ø Û Ø Ø× Ð Ñ ÒØ׺





Ê Ð¹Ú ÐÙ × ÕÙ Ò
×

Ò Ø ÓÒ ¿ º ÓÒÚ Ö Ò
℄ Ö Ð¹Ú ÐÙ × ÕÙ Ò
Ó Ú
ØÓÖ× {an }
ÓÒÚ Ö × ØÓ Ø

Ú
ØÓÖ a ÓÖ ÒÝ ε>0Ø Ö Ü ×Ø× Ò ÒØ Ö Nε ×Ù
Ø Ø ÓÖ ÐÐ n > Nε , an − a 0 Ò ω∈Ω Ø Ö Ü ×Ø× Ò ÒØ Ö Nεω



×Ù
Ø Ø



|fn (ω) − f (ω)| Nεω .



ÁØ³× ÑÔÓÖØ ÒØ ØÓ ÒÓØ Ø Ø Nεω Ô Ò × ÙÔÓÒ ω, ×Ó Ø Ø
ÓÒÚ Ö Ñ Ý ÑÙ
ÑÓÖ



Ö Ô ÓÖ
ÖØ ωØ

Ò Ò ÓÖ ÓØ Ö׺ ÍÒ ÓÖÑ
ÓÒÚ Ö Ò
Ö ÕÙ Ö × × Ñ Ð Ö Ö Ø Ó
ÓÒÚ Ö¹



Ò
Ø ÖÓÙ ÓÙØ Ω.





Ò Ø ÓÒ ¿ º ÍÒ ÓÖÑ
ÓÒÚ Ö Ò
℄ × ÕÙ Ò
Ó ÙÒ
Ø ÓÒ× {fn (ω)}
ÓÒÚ Ö ×

ÙÒ ÓÖÑÐÝ ÓÒ Ω ØÓ Ø ÙÒ
Ø ÓÒ f ´ω) ÓÖ ÒÝ ε>0 Ø Ö Ü ×Ø× Ò ÒØ Ö N ×Ù
Ø Ø





sup |fn (ω) − f (ω)| N.

ω∈Ω



´ Ò× ÖØ Ö Ñ Ö × ÓÛ Ò Ø ÒÚ ÐÓÔ ÖÓÙÒ f (ω) Ò Û
fn (ω) ÑÙ×Ø Ð µ





ËØÓ
×Ø
× ÕÙ Ò
׺ ÁÒ
ÓÒÓÑ ØÖ
׸ Û ØÝÔ
ÐÐÝ Ð Û Ø ×ØÓ
×Ø
× ÕÙ Ò
׺



Ú Ò ÔÖÓ (Ω, F, P ) , Ö
ÐÐ Ø Ø Ö Ò ÓÑ Ú Ö Ð Ñ Ô× Ø × ÑÔÐ ×Ô


Ð ØÝ ×Ô




ØÓ Ø Ö Ð Ð Ò ¸ º º¸ X(ω) : Ω → ℜ. × ÕÙ Ò
Ó Ö Ò ÓÑ Ú Ö Ð × {Xn (ω)} ×
ÓÐÐ
Ø ÓÒ



Ó ×Ù
Ñ ÔÔ Ò ×¸ º º¸
Xn (ω) × Ö Ò ÓÑ Ú Ö Ð Û Ø Ö ×Ô
Ø ØÓ Ø ÔÖÓ Ð ØÝ



×Ô
(Ω, F, P ) . ÓÖ Ü ÑÔÐ ¸ Ú Ò Ø ÑÓ Ð Y = Xβ

0 + ε, Ø ÇÄË ×Ø Ñ ØÓÖ β ˆn =

(X ′ X)−1 X ′ Y, Û Ö n × Ø × ÑÔÐ × Þ ¸
Ò Ù× ØÓ ÓÖÑ × ÕÙ Ò
Ó Ö Ò ÓÑ Ú
ØÓÖ×

ˆ

{βn }º ÒÙÑ Ö Ó ÑÓ × Ó
ÓÒÚ Ö Ò
Ö Ò Ù× Û Ò Ð Ò Û Ø × ÕÙ Ò
× Ó Ö Ò ÓÑ



Ú Ö Ð ×º Ë Ú Ö Ð ×Ù
ÑÓ × Ó
ÓÒÚ Ö Ò
× ÓÙÐ ÐÖ Ý Ñ Ð Ö





Ò Ø ÓÒ ¼º ÓÒÚ Ö Ò
Ò ÔÖÓ Ð ØÝ℄ Ä Xn (ω)

Ø × ÕÙ Ò
Ó Ö Ò ÓÑ Ú Ö ¹



Р׸ Ò Ð Ø X(ω) Ö Ò ÓÑ Ú Ö Ð º Ä Ø An = {ω : |Xn (ω) − X(ω)| > ε}º Ì Ò



{Xn (ω)}
ÓÒÚ Ö × Ò ÔÖÓ Ð ØÝ ØÓ X(ω)



lim P (An ) = 0, ∀ε > 0.

n→∞

¾º ÇÆÎ Ê Æ ÅÇ Ë ¾





p

ÓÒÚ Ö Ò
Ò ÔÖÓ Ð ØÝ × ÛÖ ØØ Ò × Xn → X, ÓÖ ÔÐ Ñ Xn = X.



Ò Ø ÓÒ ½º ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
℄ Ä ØXn (ω) × ÕÙ Ò
Ó Ö Ò ÓÑ Ú Ö ¹



Р׸ Ò Ð Ø X(ω) Ö Ò ÓÑ Ú Ö Ð º Ä Ø A = {ω : limn→∞ Xn (ω) = X(ω)}º Ì Ò



{Xn (ω)}
ÓÒÚ Ö × ÐÑÓ×Ø ×ÙÖ ÐÝ ØÓ X(ω)



P (A) = 1.



ÁÒ ÓØ Xn (ω) → X(ω) ´ÓÖ

Ö ÛÓÖ ×¸ Ò ÖÝ
ÓÒÚ Ö Ò
Ó Ø ØÛÓ ÙÒ
Ø ÓÒ×µ Ü
ÔØ ÓÒ

a.s.

× Ø C = Ω − A ×Ù
Ø Ø P (C) = 0. ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
× ÛÖ ØØ Ò × Xn → X, ÓÖ



Xn → X, a.s. ÇÒ
Ò × ÓÛ Ø Ø

a.s. p

Xn → X ⇒ Xn → X.



Ò Ø ÓÒ ¾º ÓÒÚ Ö Ò
Ò ×ØÖ ÙØ ÓÒ℄ Ä Ø Ø Xn

ÖºÚº Ú ×ØÖ ÙØ ÓÒ ÙÒ
¹



Ø ÓÒ Fn Ò Ø ÖºÚº Xn Ú ×ØÖ ÙØ ÓÒ ÙÒ
Ø ÓÒ F. Á Fn → F Ø Ú ÖÝ
ÓÒØ ÒÙ ØÝ ÔÓ ÒØ



Ó F, Ø Ò Xn
ÓÒÚ Ö × Ò ×ØÖ ÙØ ÓÒ ØÓ X.

d

ÓÒÚ Ö Ò
Ò ×ØÖ ÙØ ÓÒ × ÛÖ ØØ Ò × Xn → X. ÁØ
Ò × ÓÛÒ Ø Ø
ÓÒÚ Ö Ò
Ò



ÔÖÓ Ð ØÝ ÑÔÐ ×
ÓÒÚ Ö Ò
Ò ×ØÖ ÙØ ÓÒº







ËØÓ
×Ø
ÙÒ
Ø ÓÒ׺ Ë ÑÔÐ Ð Û× Ó Ð Ö ÒÙÑ Ö× ´ÄÄƳ׵ ÐÐÓÛ Ù× ØÓ Ö
ØÐÝ




ÓÒ
ÐÙ Ø Ø ˆ a.s.

βn → β 0 Ò Ø ÇÄË Ü ÑÔÐ ¸ × Ò




−1

ˆ X ′X X ′ε

βn = β 0 + ,

n n

a.s.

X ′ε

Ò

n →0 Ý ËÄÄƺ ÆÓØ Ø Ø Ø × Ø ÖÑ × ÒÓØ ÙÒ
Ø ÓÒ Ó Ø Ô Ö Ñ Ø Ö β. Ì ×



×Ý ÔÖÓÓ × Ö ×ÙÐØ Ó Ø Ð Ò Ö ØÝ Ó Ø ÑÓ Ð¸ Û
ÐÐÓÛ× Ù× ØÓ ÜÔÖ ×× Ø ×Ø Ñ ØÓÖ



Ò Û Ý Ø Ø × Ô Ö Ø × Ô Ö Ñ Ø Ö× ÖÓÑ Ö Ò ÓÑ ÙÒ
Ø ÓÒ׺ ÁÒ Ò Ö Ð¸ Ø × × ÒÓØ ÔÓ×× Ð º



Ï Ó Ø Ò Ð Û Ø Ø ÑÓÖ
ÓÑÔÐ
Ø × ØÙ Ø ÓÒ Û Ö Ø ×ØÓ
×Ø
× ÕÙ Ò
Ô Ò ×



ÓÒ Ô Ö Ñ Ø Ö× Ò Ñ ÒÒ Ö Ø Ø × ÒÓØ Ö Ù
Ð ØÓ × ÑÔÐ × ÕÙ Ò
Ó Ö Ò ÓÑ Ú Ö Ð ×º



ÁÒ Ø ×
× ¸ Û Ú × ÕÙ Ò
Ó Ö Ò ÓÑ ÙÒ
Ø ÓÒ× Ø Ø Ô Ò ÓÒ θ {Xn (ω, θ)}, Û Ö




Xn (ω, θ) × Ö Ò ÓÑ Ú Ö Ð Û Ø Ö ×Ô
Ø ØÓ ÔÖÓ Ð ØÝ ×Ô
(Ω, F, P ) Ò Ø



Ô Ö Ñ Ø Ö θ ÐÓÒ × ØÓ Ô Ö Ñ Ø Ö ×Ô
θ ∈ Θ.



Ò Ø ÓÒ ¿º ÍÒ ÓÖÑ ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
℄ {Xn (ω, θ)}
ÓÒÚ Ö × ÙÒ ÓÖÑÐÝ



ÐÑÓ×Ø ×ÙÖ ÐÝ Ò Θ ØÓ X(ω, θ)



lim sup |Xn (ω, θ) − X(ω, θ)| = 0, ´ º×ºµ

n→∞ θ∈Θ





ÁÑÔÐ
Ø × Ø ××ÙÑÔØ ÓÒ Ø Ø ÐÐ Xn (ω, θ) Ò X(ω, θ) Ö Ö Ò ÓÑ Ú Ö Ð × ÛºÖºØº

u.a.s.

(Ω, F, P ) ÓÖ ÐÐ θ ∈ Θ. Ï ³ÐÐ Ò
Ø ÙÒ ÓÖÑ ÐÑÓ×Ø ×ÙÖ
ÓÒÚ Ö Ò
Ý → Ò ÙÒ ÓÖÑ

u.p.


ÓÒÚ Ö Ò
Ò ÔÖÓ Ð ØÝ Ý → .

• Ò ÕÙ Ú Ð ÒØ Ò Ø ÓÒ¸ × ÓÒ Ø
Ø Ø Ø ÐÑÓ×Ø ×ÙÖ Ñ Ò× Û Ø ÔÖÓ ¹



Ð ØÝ ÓÒ ×





Pr lim sup |Xn (ω, θ) − X(ω, θ)| = 0 =1

n→∞ θ∈Θ



Ì × × ÓÖÑ × Ñ Ð Ö ØÓ Ø Ø Ó Ø Ò Ø ÓÒ Ó º×º
ÓÒÚ Ö Ò
¹ Ø ×× ÒØ Ð



Ö Ò
× Ø Ø ÓÒ Ó Ø supº

¿º Ê Ì Ë Ç ÇÆÎ Ê Æ Æ Ë ÅÈÌÇÌÁ ÉÍ ÄÁÌ ¾







¿º Ê Ø × Ó
ÓÒÚ Ö Ò
Ò ×ÝÑÔØÓØ
ÕÙ Ð ØÝ

ÁØ³× Ó Ø Ò Ù× ÙÐ ØÓ Ú ÒÓØ Ø ÓÒ ÓÖ Ø Ö Ð Ø Ú Ñ Ò ØÙ × Ó ÕÙ ÒØ Ø ×º ÉÙ ÒØ Ø ×



Ø Ø Ö ×Ñ ÐÐ Ö Ð Ø Ú ØÓ ÓØ Ö×
Ò Ó Ø Ò ÒÓÖ ¸ Û
× ÑÔÐ × Ò ÐÝ× ×º





Ò Ø ÓÒ º Ä ØØÐ ¹Ó℄ Ä Ø f (n) Ò g(n) ØÛÓ Ö Ð¹Ú ÐÙ ÙÒ
Ø ÓÒ׺ Ì ÒÓØ Ø ÓÒ

f (n)

f (n) = o(g(n)) Ñ Ò× limn→∞

g(n) = 0.



Ò Ø ÓÒ º ¹Ç℄ Ä Ø f (n) Ò g(n) ØÛÓ Ö Ð¹Ú ÐÙ ÙÒ
Ø ÓÒ׺ Ì ÒÓØ Ø ÓÒ

f (n)

f (n) = O(g(n)) Ñ Ò× Ø Ö Ü ×Ø× ×ÓÑ N ×Ù
Ø Ø ÓÖ n > N, g(n) 0 Ò ÐÐ n > Nε ,

f (n)

P 1 − ε,

g(n)

Û Ö Kε × Ò Ø
ÓÒ×Ø Òغ





Ü ÑÔÐ Xn ∼ N (0, 1) Ø

º Á Ò Xn = Op (1), × Ò
¸ Ú Ò ε, Ø Ö × ÐÛ Ý× ×ÓÑ



Kε ×Ù
Ø Ø P (|Xn | 1 − ε.



Í× ÙÐ ÖÙÐ ×



• Op (np )Op (nq ) = Op (np+q )

• op (np )op (nq ) = op (np+q )



Ü ÑÔÐ ¼º ÓÒ× Ö Ö Ò ÓÑ × ÑÔÐ Ó ÖºÚº³× Û Ø Ñ Ò ¼ Ò Ú Ö Ò
σ2 º

ˆ

θ = 1/n n

Ì ×Ø Ñ ØÓÖ Ó Ø Ñ Ò i=1 xi × ×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ¸ º º¸

ˆ A ˆ ˆ ˆ

n1/2 θ ∼ N (0, σ 2 ). ËÓ n1/2 θ = Op (1), ×Ó θ = Op (n−1/2 ). ÓÖ Û θ = op (1), ÒÓÛ Û



Ú Ú Ø ×ØÖÓÒ Ö Ö ×ÙÐØ Ø Ø Ö Ð Ø × Ø Ö Ø Ó
ÓÒÚ Ö Ò
ØÓ Ø × ÑÔÐ × Þ º





Ü ÑÔÐ ½º ÆÓÛ
ÓÒ× Ö Ö Ò ÓÑ × ÑÔÐ Ó ÖºÚº³× Û Ø Ñ Ò µ Ò Ú Ö Ò
σ2 º

ˆ

θ = 1/n n

Ì ×Ø Ñ ØÓÖ Ó Ø Ñ Ò

×ÝÑÔØÓØ
ÐÐÝ ÒÓÖÑ ÐÐÝ i=1 xi × ×ØÖ ÙØ ¸ º º¸

ˆ A ˆ ˆ ˆ

n1/2 θ − µ ∼ N (0, σ 2 ). ËÓ n1/2 θ − µ = Op (1), ×Ó θ − µ = Op (n−1/2 ), ×Ó θ = Op (1).



Ì × ØÛÓ Ü ÑÔÐ × × ÓÛ Ø Ø Ú Ö × Ó
ÒØ Ö ´Ñ Ò Þ ÖÓµ ÕÙ ÒØ Ø × ØÝÔ
ÐÐÝ



Ú ÔÐ Ñ ¼¸ Û Ð Ú Ö × Ó ÙÒ
ÒØ Ö ÕÙ ÒØ Ø × Ú Ò Ø ÒÓÒÞ ÖÓ ÔÐ Ñ׺ ÆÓØ Ø Ø



Ø Ò Ø ÓÒ Ó Op Ó × ÒÓØ Ñ Ò Ø Ø f (n) Ò g(n) Ö Ó Ø × Ñ ÓÖ Öº ×ÝÑÔØÓØ




ÕÙ Ð ØÝ Ò×ÙÖ × Ø Ø Ø × × Ø
× º





Ò Ø ÓÒ ¾º ÌÛÓ × ÕÙ Ò
× Ó Ö Ò ÓÑ Ú Ö Ð × {fn } Ò {gn } Ö ×ÝÑÔØÓØ
ÐÐÝ

a

ÕÙ Ð ´ÛÖ ØØ Ò fn = gn )

f (n)

plim =1

g(n)

Ò ÐÐݸ Ò ÐÓ ÓÙ× ÐÑÓ×Ø ×ÙÖ Ú Ö× ÓÒ× Ó op Ò Op Ö Ò Ò Ø Ó Ú ÓÙ× Û Ýº

Ê ÁË Ë ¾







Ü Ö
× ×

´½µ ÓÖ a Ò x ÓØ p × 1 Ú
ØÓÖ׸ × ÓÛ Ø Ø Dx a′ x = aº

´¾µ ÓÖ A p × p Ñ ØÖ Ü Ò x p × 1 Ú
ØÓÖ¸ × ÓÛ Ø Ø Dx x′ Ax = A + A′ º

2



´¿µ ÓÖ x Ò β ÓØ p × 1 Ú
ØÓÖ׸ × ÓÛ Ø

′ ′

Ø Dβ exp x β = exp(x β)xº



´ µ ÓÖ x Ò β ÓØ p × 1 Ú
ØÓÖ׸ Ò Ø

2 ′

Ò ÐÝØ
ÜÔÖ ×× ÓÒ ÓÖ Dβ exp x β º



´ µ ÏÖ Ø Ò Ç
Ø Ú ÔÖÓ Ö Ñ Ø Ø Ú Ö ×
Ó Ø ÔÖ Ú ÓÙ× Ö ×ÙÐØ× Ý Ø Ò ÒÙÑ Ö




Ö Ú Ø Ú ×º ÓÖ Òظ ØÝÔ ÐÔ ÒÙÑ Ö ÒØ Ò ÐÔ ÒÙÑ ×× Ò Ò× Ó
Ø Ú º

À ÈÌ Ê ¾







Ä
Ò× ×



Ì × Ó
ÙÑ ÒØ Ò Ø ××Ó
Ø Ü ÑÔÐ × Ò Ñ Ø Ö Ð× Ö
ÓÔÝÖ Ø Å
Ð Ö Ð¸



ÙÒ Ö Ø Ø ÖÑ× Ó Ø ÆÍ Ò Ö Ð ÈÙ Ð
Ä
Ò× ¸ Ú Öº ¾º¸ ÓÖ Ø ÝÓÙÖ ÓÔØ ÓÒ¸ ÙÒ Ö Ø



Ö Ø Ú ÓÑÑÓÒ× ØØÖ ÙØ ÓÒ¹Ë Ö Ð Ä
Ò× ¸ Î Ö× ÓÒ ¾º º Ì Ð
Ò× × ÓÐÐÓÛº







½º Ì ÈÄ

ÆÍ Æ Ê Ä ÈÍ ÄÁ ÄÁ ÆË

Î Ö× ÓÒ ¾¸ ÂÙÒ ½ ½



ÓÔÝÖ Ø ´ µ ½ ¸ ½ ½ Ö ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ¸ ÁÒ
º

Ì ÑÔÐ ÈÐ
¸ ËÙ Ø ¿¿¼¸ Ó×ØÓÒ¸ Å ¼¾½½½¹½¿¼ ÍË

Ú ÖÝÓÒ × Ô ÖÑ ØØ ØÓ
ÓÔÝ Ò ×ØÖ ÙØ Ú Ö Ø Ñ
ÓÔ ×

Ó Ø × Ð
Ò× Ó
ÙÑ Òظ ÙØ
Ò Ò Ø × ÒÓØ ÐÐÓÛ º



ÈÖ Ñ Ð



Ì Ð
Ò× × ÓÖ ÑÓ×Ø ×Ó ØÛ Ö Ö × Ò ØÓ Ø Û Ý ÝÓÙÖ

Ö ÓÑ ØÓ × Ö Ò
Ò Øº Ý
ÓÒØÖ ×ظ Ø ÆÍ Ò Ö Ð ÈÙ Ð


Ä
Ò× × ÒØ Ò ØÓ Ù Ö ÒØ ÝÓÙÖ Ö ÓÑ ØÓ × Ö Ò
Ò Ö

×Ó ØÛ Ö ¹¹ØÓ Ñ ×ÙÖ Ø ×Ó ØÛ Ö × Ö ÓÖ ÐÐ Ø× Ù× Ö׺ Ì ×

Ò Ö Ð ÈÙ Ð
Ä
Ò× ÔÔÐ × ØÓ ÑÓ×Ø Ó Ø Ö ËÓ ØÛ Ö

ÓÙÒ Ø ÓÒ³× ×Ó ØÛ Ö Ò ØÓ ÒÝ ÓØ Ö ÔÖÓ Ö Ñ Û Ó× ÙØ ÓÖ×
ÓÑÑ Ø ØÓ

Ù× Ò Øº ´ËÓÑ ÓØ Ö Ö ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ ×Ó ØÛ Ö ×
ÓÚ Ö Ý

Ø ÆÍ Ä Ö ÖÝ Ò Ö Ð ÈÙ Ð
Ä
Ò× Ò×Ø ºµ ÓÙ
Ò ÔÔÐÝ Ø ØÓ

ÝÓÙÖ ÔÖÓ Ö Ñ׸ ØÓÓº



Ï Ò Û ×Ô Ó Ö ×Ó ØÛ Ö ¸ Û Ö Ö ÖÖ Ò ØÓ Ö ÓѸ ÒÓØ

ÔÖ
º ÇÙÖ Ò Ö Ð ÈÙ Ð
Ä
Ò× × Ö × Ò ØÓ Ñ ×ÙÖ Ø Ø ÝÓÙ

Ú Ø Ö ÓÑ ØÓ ×ØÖ ÙØ
ÓÔ × Ó Ö ×Ó ØÛ Ö ´ Ò
Ö ÓÖ

Ø × × ÖÚ
ÝÓÙ Û × µ¸ Ø Ø ÝÓÙ Ö
Ú ×ÓÙÖ

Ó ÓÖ
Ò Ø Ø

ÝÓÙ Û ÒØ Ø¸ Ø Ø ÝÓÙ
Ò
Ò Ø ×Ó ØÛ Ö ÓÖ Ù× Ô
× Ó Ø

Ò Ò Û Ö ÔÖÓ Ö Ñ× Ò Ø Ø ÝÓÙ ÒÓÛ ÝÓÙ
Ò Ó Ø × Ø Ò ×º



ÌÓ ÔÖÓØ
Ø ÝÓÙÖ Ö Ø׸ Û Ò ØÓ Ñ Ö ×ØÖ
Ø ÓÒ× Ø Ø ÓÖ

ÒÝÓÒ ØÓ ÒÝ ÝÓÙ Ø × Ö Ø× ÓÖ ØÓ × ÝÓÙ ØÓ ×ÙÖÖ Ò Ö Ø Ö Ø׺

Ì × Ö ×ØÖ
Ø ÓÒ× ØÖ Ò×Ð Ø ØÓ
ÖØ Ò Ö ×ÔÓÒ× Ð Ø × ÓÖ ÝÓÙ ÝÓÙ

×ØÖ ÙØ
ÓÔ × Ó Ø ×Ó ØÛ Ö ¸ ÓÖ ÝÓÙ ÑÓ Ý Øº



ÓÖ Ü ÑÔÐ ¸ ÝÓÙ ×ØÖ ÙØ
ÓÔ × Ó ×Ù
ÔÖÓ Ö Ñ¸ Û Ø Ö

Ö Ø × ÓÖ ÓÖ ¸ ÝÓÙ ÑÙ×Ø Ú Ø Ö
Ô ÒØ× ÐÐ Ø Ö Ø× Ø Ø

¾

½º ÌÀ ÈÄ ¾ ¼







ÝÓÙ Ú º ÓÙ ÑÙ×Ø Ñ ×ÙÖ Ø Ø Ø Ý¸ ØÓÓ¸ Ö
Ú ÓÖ
Ò Ø Ø

×ÓÙÖ

Ó º Ò ÝÓÙ ÑÙ×Ø × ÓÛ Ø Ñ Ø × Ø ÖÑ× ×Ó Ø Ý ÒÓÛ Ø Ö

Ö Ø׺



Ï ÔÖÓØ
Ø ÝÓÙÖ Ö Ø× Û Ø ØÛÓ ×Ø Ô× ´½µ
ÓÔÝÖ Ø Ø ×Ó ØÛ Ö ¸ Ò

´¾µ Ó Ö ÝÓÙ Ø × Ð
Ò× Û
Ú × ÝÓÙ Ð Ð Ô ÖÑ ×× ÓÒ ØÓ
ÓÔݸ

×ØÖ ÙØ Ò »ÓÖ ÑÓ Ý Ø ×Ó ØÛ Ö º



Ð×Ó¸ ÓÖ
ÙØ ÓÖ³× ÔÖÓØ
Ø ÓÒ Ò ÓÙÖ׸ Û Û ÒØ ØÓ Ñ
ÖØ Ò

Ø Ø Ú ÖÝÓÒ ÙÒ Ö×Ø Ò × Ø Ø Ø Ö × ÒÓ Û ÖÖ ÒØÝ ÓÖ Ø × Ö

×Ó ØÛ Ö º Á Ø ×Ó ØÛ Ö × ÑÓ Ý ×ÓÑ ÓÒ Ð× Ò Ô ×× ÓÒ¸ Û

Û ÒØ Ø× Ö
Ô ÒØ× ØÓ ÒÓÛ Ø Ø Û Ø Ø Ý Ú × ÒÓØ Ø ÓÖ Ò Ð¸ ×Ó

Ø Ø ÒÝ ÔÖÓ Ð Ñ× ÒØÖÓ Ù
Ý ÓØ Ö× Û ÐÐ ÒÓØ Ö Ð
Ø ÓÒ Ø ÓÖ Ò Ð

ÙØ ÓÖ׳ Ö ÔÙØ Ø ÓÒ׺



Ò ÐÐݸ ÒÝ Ö ÔÖÓ Ö Ñ × Ø Ö Ø Ò
ÓÒ×Ø ÒØÐÝ Ý ×Ó ØÛ Ö

Ô Ø ÒØ׺ Ï Û × ØÓ ÚÓ Ø Ò Ö Ø Ø Ö ×ØÖ ÙØÓÖ× Ó Ö

ÔÖÓ Ö Ñ Û ÐÐ Ò Ú Ù ÐÐÝ Ó Ø Ò Ô Ø ÒØ Ð
Ò× ×¸ Ò
Ø Ñ Ò Ø

ÔÖÓ Ö Ñ ÔÖÓÔÖ Ø Öݺ ÌÓ ÔÖ Ú ÒØ Ø ×¸ Û Ú Ñ Ø
Ð Ö Ø Ø ÒÝ

Ô Ø ÒØ ÑÙ×Ø Ð
Ò× ÓÖ Ú ÖÝÓÒ ³× Ö Ù× ÓÖ ÒÓØ Ð
Ò× Ø Ðк



Ì ÔÖ
× Ø ÖÑ× Ò
ÓÒ Ø ÓÒ× ÓÖ
ÓÔÝ Ò ¸ ×ØÖ ÙØ ÓÒ Ò

ÑÓ
Ø ÓÒ ÓÐÐÓÛº









ÆÍ Æ Ê Ä ÈÍ ÄÁ ÄÁ ÆË

Ì ÊÅË Æ ÇÆ ÁÌÁÇÆË ÇÊ ÇÈ ÁÆ ¸ ÁËÌÊÁ ÍÌÁÇÆ Æ ÅÇ Á Á ÌÁÇÆ



¼º Ì × Ä
Ò× ÔÔÐ × ØÓ ÒÝ ÔÖÓ Ö Ñ ÓÖ ÓØ Ö ÛÓÖ Û

ÓÒØ Ò×

ÒÓØ
ÔÐ
Ý Ø
ÓÔÝÖ Ø ÓÐ Ö × Ý Ò Ø Ñ Ý ×ØÖ ÙØ

ÙÒ Ö Ø Ø ÖÑ× Ó Ø × Ò Ö Ð ÈÙ Ð
Ä
Ò× º Ì ÈÖÓ Ö Ñ ¸ ÐÓÛ¸

Ö Ö× ØÓ ÒÝ ×Ù
ÔÖÓ Ö Ñ ÓÖ ÛÓÖ ¸ Ò ÛÓÖ × ÓÒ Ø ÈÖÓ Ö Ñ

Ñ Ò× Ø Ö Ø ÈÖÓ Ö Ñ ÓÖ ÒÝ Ö Ú Ø Ú ÛÓÖ ÙÒ Ö
ÓÔÝÖ Ø Ð Û

Ø Ø × ØÓ × Ý¸ ÛÓÖ
ÓÒØ Ò Ò Ø ÈÖÓ Ö Ñ ÓÖ ÔÓÖØ ÓÒ Ó Ø¸

Ø Ö Ú Ö Ø Ñ ÓÖ Û Ø ÑÓ
Ø ÓÒ× Ò »ÓÖ ØÖ Ò×Ð Ø ÒØÓ ÒÓØ Ö

Ð Ò Ù º ´À Ö Ò Ø Ö¸ ØÖ Ò×Ð Ø ÓÒ × Ò
ÐÙ Û Ø ÓÙØ Ð Ñ Ø Ø ÓÒ Ò

Ø Ø ÖÑ ÑÓ
Ø ÓÒ ºµ
Ð
Ò× × Ö ×× × ÝÓÙ º




Ø Ú Ø × ÓØ Ö Ø Ò
ÓÔÝ Ò ¸ ×ØÖ ÙØ ÓÒ Ò ÑÓ
Ø ÓÒ Ö ÒÓØ


ÓÚ Ö Ý Ø × Ä
Ò× Ø Ý Ö ÓÙØ× Ø× ×
ÓÔ º Ì
Ø Ó

ÖÙÒÒ Ò Ø ÈÖÓ Ö Ñ × ÒÓØ Ö ×ØÖ
Ø ¸ Ò Ø ÓÙØÔÙØ ÖÓÑ Ø ÈÖÓ Ö Ñ

×
ÓÚ Ö ÓÒÐÝ Ø×
ÓÒØ ÒØ×
ÓÒ×Ø ØÙØ ÛÓÖ × ÓÒ Ø

ÈÖÓ Ö Ñ ´ Ò Ô Ò ÒØ Ó Ú Ò Ò Ñ Ý ÖÙÒÒ Ò Ø ÈÖÓ Ö Ñµº

½º ÌÀ ÈÄ ¾ ½







Ï Ø Ö Ø Ø × ØÖÙ Ô Ò × ÓÒ Û Ø Ø ÈÖÓ Ö Ñ Ó ×º



½º ÓÙ Ñ Ý
ÓÔÝ Ò ×ØÖ ÙØ Ú Ö Ø Ñ
ÓÔ × Ó Ø ÈÖÓ Ö Ñ³×

×ÓÙÖ

Ó × ÝÓÙ Ö
Ú Ø¸ Ò ÒÝ Ñ ÙѸ ÔÖÓÚ Ø Ø ÝÓÙ


ÓÒ×Ô
ÙÓÙ×ÐÝ Ò ÔÔÖÓÔÖ Ø ÐÝ ÔÙ Ð × ÓÒ

ÓÔÝ Ò ÔÔÖÓÔÖ Ø


ÓÔÝÖ Ø ÒÓØ
Ò ×
Ð Ñ Ö Ó Û ÖÖ ÒØÝ Ô ÒØ
Ø ÐÐ Ø

ÒÓØ
× Ø Ø Ö Ö ØÓ Ø × Ä
Ò× Ò ØÓ Ø × Ò
Ó ÒÝ Û ÖÖ ÒØÝ

Ò Ú ÒÝ ÓØ Ö Ö
Ô ÒØ× Ó Ø ÈÖÓ Ö Ñ
ÓÔÝ Ó Ø × Ä
Ò×

ÐÓÒ Û Ø Ø ÈÖÓ Ö Ñº



ÓÙ Ñ Ý
Ö ÓÖ Ø Ô Ý×
Ð
Ø Ó ØÖ Ò× ÖÖ Ò
ÓÔݸ Ò

ÝÓÙ Ñ Ý Ø ÝÓÙÖ ÓÔØ ÓÒ Ó Ö Û ÖÖ ÒØÝ ÔÖÓØ
Ø ÓÒ Ò Ü
Ò ÓÖ º



¾º ÓÙ Ñ Ý ÑÓ Ý ÝÓÙÖ
ÓÔÝ ÓÖ
ÓÔ × Ó Ø ÈÖÓ Ö Ñ ÓÖ ÒÝ ÔÓÖØ ÓÒ

Ó Ø¸ Ø Ù× ÓÖÑ Ò ÛÓÖ × ÓÒ Ø ÈÖÓ Ö Ñ¸ Ò
ÓÔÝ Ò

×ØÖ ÙØ ×Ù
ÑÓ
Ø ÓÒ× ÓÖ ÛÓÖ ÙÒ Ö Ø Ø ÖÑ× Ó Ë
Ø ÓÒ ½

ÓÚ ¸ ÔÖÓÚ Ø Ø ÝÓÙ Ð×Ó Ñ Ø ÐÐ Ó Ø ×
ÓÒ Ø ÓÒ×



µ ÓÙ ÑÙ×Ø
Ù× Ø ÑÓ Ð × ØÓ
ÖÖÝ ÔÖÓÑ Ò ÒØ ÒÓØ
×

×Ø Ø Ò Ø Ø ÝÓÙ
Ò Ø Ð × Ò Ø Ø Ó ÒÝ
Ò º



µ ÓÙ ÑÙ×Ø
Ù× ÒÝ ÛÓÖ Ø Ø ÝÓÙ ×ØÖ ÙØ ÓÖ ÔÙ Ð × ¸ Ø Ø Ò

Û ÓÐ ÓÖ Ò Ô ÖØ
ÓÒØ Ò× ÓÖ × Ö Ú ÖÓÑ Ø ÈÖÓ Ö Ñ ÓÖ ÒÝ

Ô ÖØ Ø Ö Ó ¸ ØÓ Ð
Ò× × Û ÓÐ Ø ÒÓ
Ö ØÓ ÐÐ Ø Ö

Ô ÖØ × ÙÒ Ö Ø Ø ÖÑ× Ó Ø × Ä
Ò× º




µ Á Ø ÑÓ ÔÖÓ Ö Ñ ÒÓÖÑ ÐÐÝ Ö ×
ÓÑÑ Ò × ÒØ Ö
Ø Ú ÐÝ

Û Ò ÖÙÒ¸ ÝÓÙ ÑÙ×Ø
Ù× Ø¸ Û Ò ×Ø ÖØ ÖÙÒÒ Ò ÓÖ ×Ù


ÒØ Ö
Ø Ú Ù× Ò Ø ÑÓ×Ø ÓÖ Ò ÖÝ Û Ý¸ ØÓ ÔÖ ÒØ ÓÖ ×ÔÐ Ý Ò

ÒÒÓÙÒ
Ñ ÒØ Ò
ÐÙ Ò Ò ÔÔÖÓÔÖ Ø
ÓÔÝÖ Ø ÒÓØ
Ò

ÒÓØ
Ø Ø Ø Ö × ÒÓ Û ÖÖ ÒØÝ ´ÓÖ Ð× ¸ × Ý Ò Ø Ø ÝÓÙ ÔÖÓÚ

Û ÖÖ ÒØݵ Ò Ø Ø Ù× Ö× Ñ Ý Ö ×ØÖ ÙØ Ø ÔÖÓ Ö Ñ ÙÒ Ö

Ø ×
ÓÒ Ø ÓÒ׸ Ò Ø ÐÐ Ò Ø Ù× Ö ÓÛ ØÓ Ú Û
ÓÔÝ Ó Ø ×

Ä
Ò× º ´ Ü
ÔØ ÓÒ Ø ÈÖÓ Ö Ñ Ø× Ð × ÒØ Ö
Ø Ú ÙØ

Ó × ÒÓØ ÒÓÖÑ ÐÐÝ ÔÖ ÒØ ×Ù
Ò ÒÒÓÙÒ
Ñ Òظ ÝÓÙÖ ÛÓÖ × ÓÒ

Ø ÈÖÓ Ö Ñ × ÒÓØ Ö ÕÙ Ö ØÓ ÔÖ ÒØ Ò ÒÒÓÙÒ
Ñ Òغµ









Ì × Ö ÕÙ Ö Ñ ÒØ× ÔÔÐÝ ØÓ Ø ÑÓ ÛÓÖ × Û ÓÐ º Á

ÒØ Ð ×
Ø ÓÒ× Ó Ø Ø ÛÓÖ Ö ÒÓØ Ö Ú ÖÓÑ Ø ÈÖÓ Ö Ñ¸

Ò
Ò Ö ×ÓÒ ÐÝ
ÓÒ× Ö Ò Ô Ò ÒØ Ò × Ô Ö Ø ÛÓÖ × Ò

Ø Ñ× ÐÚ ×¸ Ø Ò Ø × Ä
Ò× ¸ Ò Ø× Ø ÖÑ׸ Ó ÒÓØ ÔÔÐÝ ØÓ Ø Ó×

×
Ø ÓÒ× Û Ò ÝÓÙ ×ØÖ ÙØ Ø Ñ × × Ô Ö Ø ÛÓÖ ×º ÙØ Û Ò ÝÓÙ

½º ÌÀ ÈÄ ¾ ¾







×ØÖ ÙØ Ø × Ñ ×
Ø ÓÒ× × Ô ÖØ Ó Û ÓÐ Û
× ÛÓÖ ×

ÓÒ Ø ÈÖÓ Ö Ñ¸ Ø ×ØÖ ÙØ ÓÒ Ó Ø Û ÓÐ ÑÙ×Ø ÓÒ Ø Ø ÖÑ× Ó

Ø × Ä
Ò× ¸ Û Ó× Ô ÖÑ ×× ÓÒ× ÓÖ ÓØ Ö Ð
Ò× × ÜØ Ò ØÓ Ø

ÒØ Ö Û ÓÐ ¸ Ò Ø Ù× ØÓ
Ò Ú ÖÝ Ô ÖØ Ö Ö Ð ×× Ó Û Ó ÛÖÓØ Øº



Ì Ù׸ Ø × ÒÓØ Ø ÒØ ÒØ Ó Ø × ×
Ø ÓÒ ØÓ
Ð Ñ Ö Ø× ÓÖ
ÓÒØ ×Ø

ÝÓÙÖ Ö Ø× ØÓ ÛÓÖ ÛÖ ØØ Ò ÒØ Ö ÐÝ Ý ÝÓÙ Ö Ø Ö¸ Ø ÒØ ÒØ × ØÓ

Ü Ö
× Ø Ö Ø ØÓ
ÓÒØÖÓÐ Ø ×ØÖ ÙØ ÓÒ Ó Ö Ú Ø Ú ÓÖ


ÓÐÐ
Ø Ú ÛÓÖ × × ÓÒ Ø ÈÖÓ Ö Ñº



ÁÒ Ø ÓÒ¸ Ñ Ö Ö Ø ÓÒ Ó ÒÓØ Ö ÛÓÖ ÒÓØ × ÓÒ Ø ÈÖÓ Ö Ñ

Û Ø Ø ÈÖÓ Ö Ñ ´ÓÖ Û Ø ÛÓÖ × ÓÒ Ø ÈÖÓ Ö Ñµ ÓÒ ÚÓÐÙÑ Ó

×ØÓÖ ÓÖ ×ØÖ ÙØ ÓÒ Ñ ÙÑ Ó × ÒÓØ Ö Ò Ø ÓØ Ö ÛÓÖ ÙÒ Ö

Ø ×
ÓÔ Ó Ø × Ä
Ò× º



¿º ÓÙ Ñ Ý
ÓÔÝ Ò ×ØÖ ÙØ Ø ÈÖÓ Ö Ñ ´ÓÖ ÛÓÖ × ÓÒ Ø¸

ÙÒ Ö Ë
Ø ÓÒ ¾µ Ò Ó
Ø
Ó ÓÖ Ü
ÙØ Ð ÓÖÑ ÙÒ Ö Ø Ø ÖÑ× Ó

Ë
Ø ÓÒ× ½ Ò ¾ ÓÚ ÔÖÓÚ Ø Ø ÝÓÙ Ð×Ó Ó ÓÒ Ó Ø ÓÐÐÓÛ Ò



µ

ÓÑÔ ÒÝ Ø Û Ø Ø
ÓÑÔÐ Ø
ÓÖÖ ×ÔÓÒ Ò Ñ
Ò ¹Ö Ð

×ÓÙÖ

Ó ¸ Û
ÑÙ×Ø ×ØÖ ÙØ ÙÒ Ö Ø Ø ÖÑ× Ó Ë
Ø ÓÒ×

½ Ò ¾ ÓÚ ÓÒ Ñ ÙÑ
Ù×ØÓÑ Ö ÐÝ Ù× ÓÖ ×Ó ØÛ Ö ÒØ Ö
Ò ÓÖ¸



µ

ÓÑÔ ÒÝ Ø Û Ø ÛÖ ØØ Ò Ó Ö¸ Ú Ð ÓÖ Ø Ð ×Ø Ø Ö

Ý Ö׸ ØÓ Ú ÒÝ Ø Ö Ô ÖØݸ ÓÖ
Ö ÒÓ ÑÓÖ Ø Ò ÝÓÙÖ


Ó×Ø Ó Ô Ý×
ÐÐÝ Ô Ö ÓÖÑ Ò ×ÓÙÖ
×ØÖ ÙØ ÓÒ¸
ÓÑÔÐ Ø

Ñ
Ò ¹Ö Ð
ÓÔÝ Ó Ø
ÓÖÖ ×ÔÓÒ Ò ×ÓÙÖ

Ó ¸ ØÓ

×ØÖ ÙØ ÙÒ Ö Ø Ø ÖÑ× Ó Ë
Ø ÓÒ× ½ Ò ¾ ÓÚ ÓÒ Ñ ÙÑ


Ù×ØÓÑ Ö ÐÝ Ù× ÓÖ ×Ó ØÛ Ö ÒØ Ö
Ò ÓÖ¸




µ

ÓÑÔ ÒÝ Ø Û Ø Ø Ò ÓÖÑ Ø ÓÒ ÝÓÙ Ö
Ú × ØÓ Ø Ó Ö

ØÓ ×ØÖ ÙØ
ÓÖÖ ×ÔÓÒ Ò ×ÓÙÖ

Ó º ´Ì × ÐØ ÖÒ Ø Ú ×

ÐÐÓÛ ÓÒÐÝ ÓÖ ÒÓÒ
ÓÑÑ Ö
Ð ×ØÖ ÙØ ÓÒ Ò ÓÒÐÝ ÝÓÙ

Ö
Ú Ø ÔÖÓ Ö Ñ Ò Ó
Ø
Ó ÓÖ Ü
ÙØ Ð ÓÖÑ Û Ø ×Ù


Ò Ó Ö¸ Ò

ÓÖ Û Ø ËÙ ×
Ø ÓÒ ÓÚ ºµ



Ì ×ÓÙÖ

Ó ÓÖ ÛÓÖ Ñ Ò× Ø ÔÖ ÖÖ ÓÖÑ Ó Ø ÛÓÖ ÓÖ

Ñ Ò ÑÓ
Ø ÓÒ× ØÓ Øº ÓÖ Ò Ü
ÙØ Ð ÛÓÖ ¸
ÓÑÔÐ Ø ×ÓÙÖ



Ó Ñ Ò× ÐÐ Ø ×ÓÙÖ

Ó ÓÖ ÐÐ ÑÓ ÙÐ × Ø
ÓÒØ Ò׸ ÔÐÙ× ÒÝ

××Ó
Ø ÒØ Ö
Ò Ø ÓÒ Ð ×¸ ÔÐÙ× Ø ×
Ö ÔØ× Ù× ØÓ


ÓÒØÖÓÐ
ÓÑÔ Ð Ø ÓÒ Ò Ò×Ø ÐÐ Ø ÓÒ Ó Ø Ü
ÙØ Ð º ÀÓÛ Ú Ö¸ ×

×Ô
Ð Ü
ÔØ ÓÒ¸ Ø ×ÓÙÖ

Ó ×ØÖ ÙØ Ò ÒÓØ Ò
ÐÙ

ÒÝØ Ò Ø Ø × ÒÓÖÑ ÐÐÝ ×ØÖ ÙØ ´ Ò Ø Ö ×ÓÙÖ
ÓÖ Ò ÖÝ

ÓÖѵ Û Ø Ø Ñ ÓÖ
ÓÑÔÓÒ ÒØ× ´
ÓÑÔ Ð Ö¸ ÖÒ Ð¸ Ò ×Ó ÓÒµ Ó Ø

ÓÔ Ö Ø Ò ×Ý×Ø Ñ ÓÒ Û
Ø Ü
ÙØ Ð ÖÙÒ׸ ÙÒÐ ×× Ø Ø
ÓÑÔÓÒ ÒØ

Ø× Ð

ÓÑÔ Ò × Ø Ü
ÙØ Ð º

½º ÌÀ ÈÄ ¾ ¿









Á ×ØÖ ÙØ ÓÒ Ó Ü
ÙØ Ð ÓÖ Ó
Ø
Ó × Ñ Ý Ó Ö Ò



×× ØÓ
ÓÔÝ ÖÓÑ × Ò Ø ÔÐ
¸ Ø Ò Ó Ö Ò ÕÙ Ú Ð ÒØ



×× ØÓ
ÓÔÝ Ø ×ÓÙÖ

Ó ÖÓÑ Ø × Ñ ÔÐ

ÓÙÒØ× ×

×ØÖ ÙØ ÓÒ Ó Ø ×ÓÙÖ

Ó ¸ Ú Ò Ø ÓÙ Ø Ö Ô ÖØ × Ö ÒÓØ


ÓÑÔ ÐÐ ØÓ
ÓÔÝ Ø ×ÓÙÖ
ÐÓÒ Û Ø Ø Ó
Ø
Ó º









º ÓÙ Ñ Ý ÒÓØ
ÓÔݸ ÑÓ Ý¸ ×Ù Ð
Ò× ¸ ÓÖ ×ØÖ ÙØ Ø ÈÖÓ Ö Ñ

Ü
ÔØ × ÜÔÖ ××ÐÝ ÔÖÓÚ ÙÒ Ö Ø × Ä
Ò× º ÒÝ ØØ ÑÔØ

ÓØ ÖÛ × ØÓ
ÓÔݸ ÑÓ Ý¸ ×Ù Ð
Ò× ÓÖ ×ØÖ ÙØ Ø ÈÖÓ Ö Ñ ×

ÚÓ ¸ Ò Û ÐÐ ÙØÓÑ Ø
ÐÐÝ Ø ÖÑ Ò Ø ÝÓÙÖ Ö Ø× ÙÒ Ö Ø × Ä
Ò× º

ÀÓÛ Ú Ö¸ Ô ÖØ × Û Ó Ú Ö
Ú
ÓÔ ×¸ ÓÖ Ö Ø׸ ÖÓÑ ÝÓÙ ÙÒ Ö

Ø × Ä
Ò× Û ÐÐ ÒÓØ Ú Ø Ö Ð
Ò× × Ø ÖÑ Ò Ø ×Ó ÐÓÒ × ×Ù


Ô ÖØ × Ö Ñ Ò Ò ÙÐÐ
ÓÑÔÐ Ò
º



º ÓÙ Ö ÒÓØ Ö ÕÙ Ö ØÓ

ÔØ Ø × Ä
Ò× ¸ × Ò
ÝÓÙ Ú ÒÓØ

× Ò Øº ÀÓÛ Ú Ö¸ ÒÓØ Ò Ð× Ö ÒØ× ÝÓÙ Ô ÖÑ ×× ÓÒ ØÓ ÑÓ Ý ÓÖ

×ØÖ ÙØ Ø ÈÖÓ Ö Ñ ÓÖ Ø× Ö Ú Ø Ú ÛÓÖ ×º Ì ×
Ø ÓÒ× Ö

ÔÖÓ Ø Ý Ð Û ÝÓÙ Ó ÒÓØ

ÔØ Ø × Ä
Ò× º Ì Ö ÓÖ ¸ Ý

ÑÓ Ý Ò ÓÖ ×ØÖ ÙØ Ò Ø ÈÖÓ Ö Ñ ´ÓÖ ÒÝ ÛÓÖ × ÓÒ Ø

ÈÖÓ Ö Ñµ¸ ÝÓÙ Ò
Ø ÝÓÙÖ

ÔØ Ò
Ó Ø × Ä
Ò× ØÓ Ó ×Ó¸ Ò

ÐÐ Ø× Ø ÖÑ× Ò
ÓÒ Ø ÓÒ× ÓÖ
ÓÔÝ Ò ¸ ×ØÖ ÙØ Ò ÓÖ ÑÓ Ý Ò

Ø ÈÖÓ Ö Ñ ÓÖ ÛÓÖ × × ÓÒ Øº



º
Ø Ñ ÝÓÙ Ö ×ØÖ ÙØ Ø ÈÖÓ Ö Ñ ´ÓÖ ÒÝ ÛÓÖ × ÓÒ Ø

ÈÖÓ Ö Ñµ¸ Ø Ö
Ô ÒØ ÙØÓÑ Ø
ÐÐÝ Ö
Ú × Ð
Ò× ÖÓÑ Ø

ÓÖ Ò Ð Ð
Ò×ÓÖ ØÓ
ÓÔݸ ×ØÖ ÙØ ÓÖ ÑÓ Ý Ø ÈÖÓ Ö Ñ ×Ù
Ø ØÓ

Ø × Ø ÖÑ× Ò
ÓÒ Ø ÓÒ׺ ÓÙ Ñ Ý ÒÓØ ÑÔÓ× ÒÝ ÙÖØ Ö

Ö ×ØÖ
Ø ÓÒ× ÓÒ Ø Ö
Ô ÒØ׳ Ü Ö
× Ó Ø Ö Ø× Ö ÒØ Ö Òº

ÓÙ Ö ÒÓØ Ö ×ÔÓÒ× Ð ÓÖ Ò ÓÖ
Ò
ÓÑÔÐ Ò
Ý Ø Ö Ô ÖØ × ØÓ

Ø × Ä
Ò× º



º Á ¸ ×
ÓÒ× ÕÙ Ò
Ó
ÓÙÖØ Ù Ñ ÒØ ÓÖ ÐÐ Ø ÓÒ Ó Ô Ø ÒØ

Ò Ö Ò Ñ ÒØ ÓÖ ÓÖ ÒÝ ÓØ Ö Ö ×ÓÒ ´ÒÓØ Ð Ñ Ø ØÓ Ô Ø ÒØ ××Ù ×µ¸


ÓÒ Ø ÓÒ× Ö ÑÔÓ× ÓÒ ÝÓÙ ´Û Ø Ö Ý
ÓÙÖØ ÓÖ Ö¸ Ö Ñ ÒØ ÓÖ

ÓØ ÖÛ × µ Ø Ø
ÓÒØÖ
Ø Ø
ÓÒ Ø ÓÒ× Ó Ø × Ä
Ò× ¸ Ø Ý Ó ÒÓØ

Ü
Ù× ÝÓÙ ÖÓÑ Ø
ÓÒ Ø ÓÒ× Ó Ø × Ä
Ò× º Á ÝÓÙ
ÒÒÓØ

×ØÖ ÙØ ×Ó × ØÓ × Ø × Ý × ÑÙÐØ Ò ÓÙ×ÐÝ ÝÓÙÖ Ó Ð Ø ÓÒ× ÙÒ Ö Ø ×

Ä
Ò× Ò ÒÝ ÓØ Ö Ô ÖØ Ò ÒØ Ó Ð Ø ÓÒ׸ Ø Ò ×
ÓÒ× ÕÙ Ò
ÝÓÙ

Ñ Ý ÒÓØ ×ØÖ ÙØ Ø ÈÖÓ Ö Ñ Ø Ðк ÓÖ Ü ÑÔÐ ¸ Ô Ø ÒØ

Ð
Ò× ÛÓÙÐ ÒÓØ Ô ÖÑ Ø ÖÓÝ ÐØݹ Ö Ö ×ØÖ ÙØ ÓÒ Ó Ø ÈÖÓ Ö Ñ Ý

ÐÐ Ø Ó× Û Ó Ö
Ú
ÓÔ × Ö
ØÐÝ ÓÖ Ò Ö
ØÐÝ Ø ÖÓÙ ÝÓÙ¸ Ø Ò

½º ÌÀ ÈÄ ¾







Ø ÓÒÐÝ Û Ý ÝÓÙ
ÓÙÐ × Ø × Ý ÓØ Ø Ò Ø × Ä
Ò× ÛÓÙÐ ØÓ

Ö Ö Ò ÒØ Ö ÐÝ ÖÓÑ ×ØÖ ÙØ ÓÒ Ó Ø ÈÖÓ Ö Ñº



Á ÒÝ ÔÓÖØ ÓÒ Ó Ø × ×
Ø ÓÒ × Ð ÒÚ Ð ÓÖ ÙÒ Ò ÓÖ
Ð ÙÒ Ö

ÒÝ Ô ÖØ
ÙÐ Ö
Ö
ÙÑ×Ø Ò
¸ Ø Ð Ò
Ó Ø ×
Ø ÓÒ × ÒØ Ò ØÓ

ÔÔÐÝ Ò Ø ×
Ø ÓÒ × Û ÓÐ × ÒØ Ò ØÓ ÔÔÐÝ Ò ÓØ Ö


Ö
ÙÑ×Ø Ò
׺



ÁØ × ÒÓØ Ø ÔÙÖÔÓ× Ó Ø × ×
Ø ÓÒ ØÓ Ò Ù
ÝÓÙ ØÓ Ò Ö Ò ÒÝ

Ô Ø ÒØ× ÓÖ ÓØ Ö ÔÖÓÔ ÖØÝ Ö Ø
Ð Ñ× ÓÖ ØÓ
ÓÒØ ×Ø Ú Ð ØÝ Ó ÒÝ

×Ù

Ð Ñ× Ø × ×
Ø ÓÒ × Ø ×ÓÐ ÔÙÖÔÓ× Ó ÔÖÓØ
Ø Ò Ø

ÒØ Ö ØÝ Ó Ø Ö ×Ó ØÛ Ö ×ØÖ ÙØ ÓÒ ×Ý×Ø Ñ¸ Û
×

ÑÔÐ Ñ ÒØ Ý ÔÙ Ð
Ð
Ò× ÔÖ
Ø
׺ Å ÒÝ Ô ÓÔÐ Ú Ñ

Ò ÖÓÙ×
ÓÒØÖ ÙØ ÓÒ× ØÓ Ø Û Ö Ò Ó ×Ó ØÛ Ö ×ØÖ ÙØ

Ø ÖÓÙ Ø Ø ×Ý×Ø Ñ Ò Ö Ð Ò
ÓÒ
ÓÒ× ×Ø ÒØ ÔÔÐ
Ø ÓÒ Ó Ø Ø

×Ý×Ø Ñ Ø × ÙÔ ØÓ Ø ÙØ ÓÖ» ÓÒÓÖ ØÓ
ÓÖ × × Û ÐÐ Ò

ØÓ ×ØÖ ÙØ ×Ó ØÛ Ö Ø ÖÓÙ ÒÝ ÓØ Ö ×Ý×Ø Ñ Ò Ð
Ò×
ÒÒÓØ

ÑÔÓ× Ø Ø
Ó
º



Ì × ×
Ø ÓÒ × ÒØ Ò ØÓ Ñ Ø ÓÖÓÙ ÐÝ
Ð Ö Û Ø × Ð Ú ØÓ


ÓÒ× ÕÙ Ò
Ó Ø Ö ×Ø Ó Ø × Ä
Ò× º









º Á Ø ×ØÖ ÙØ ÓÒ Ò »ÓÖ Ù× Ó Ø ÈÖÓ Ö Ñ × Ö ×ØÖ
Ø Ò


ÖØ Ò
ÓÙÒØÖ × Ø Ö Ý Ô Ø ÒØ× ÓÖ Ý
ÓÔÝÖ Ø ÒØ Ö
׸ Ø

ÓÖ Ò Ð
ÓÔÝÖ Ø ÓÐ Ö Û Ó ÔÐ
× Ø ÈÖÓ Ö Ñ ÙÒ Ö Ø × Ä
Ò×

Ñ Ý Ò ÜÔÐ
Ø Ó Ö Ô
Ð ×ØÖ ÙØ ÓÒ Ð Ñ Ø Ø ÓÒ Ü
ÐÙ Ò

Ø Ó×
ÓÙÒØÖ ×¸ ×Ó Ø Ø ×ØÖ ÙØ ÓÒ × Ô ÖÑ ØØ ÓÒÐÝ Ò ÓÖ ÑÓÒ


ÓÙÒØÖ × ÒÓØ Ø Ù× Ü
ÐÙ º ÁÒ ×Ù

× ¸ Ø × Ä
Ò× Ò
ÓÖÔÓÖ Ø ×

Ø Ð Ñ Ø Ø ÓÒ × ÛÖ ØØ Ò Ò Ø Ó Ý Ó Ø × Ä
Ò× º



º Ì Ö ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ Ñ Ý ÔÙ Ð × Ö Ú × Ò »ÓÖ Ò Û Ú Ö× ÓÒ×

Ó Ø Ò Ö Ð ÈÙ Ð
Ä
Ò× ÖÓÑ Ø Ñ ØÓ Ø Ñ º ËÙ
Ò Û Ú Ö× ÓÒ× Û ÐÐ

× Ñ Ð Ö Ò ×Ô Ö Ø ØÓ Ø ÔÖ × ÒØ Ú Ö× ÓÒ¸ ÙØ Ñ Ý Ö Ò Ø Ð ØÓ

Ö ×× Ò Û ÔÖÓ Ð Ñ× ÓÖ
ÓÒ
ÖÒ׺




Ú Ö× ÓÒ × Ú Ò ×Ø Ò Ù × Ò Ú Ö× ÓÒ ÒÙÑ Öº Á Ø ÈÖÓ Ö Ñ

×Ô
× Ú Ö× ÓÒ ÒÙÑ Ö Ó Ø × Ä
Ò× Û
ÔÔÐ × ØÓ Ø Ò ÒÝ

Ð Ø Ö Ú Ö× ÓÒ ¸ ÝÓÙ Ú Ø ÓÔØ ÓÒ Ó ÓÐÐÓÛ Ò Ø Ø ÖÑ× Ò
ÓÒ Ø ÓÒ×

Ø Ö Ó Ø Ø Ú Ö× ÓÒ ÓÖ Ó ÒÝ Ð Ø Ö Ú Ö× ÓÒ ÔÙ Ð × Ý Ø Ö

ËÓ ØÛ Ö ÓÙÒ Ø ÓÒº Á Ø ÈÖÓ Ö Ñ Ó × ÒÓØ ×Ô
Ý Ú Ö× ÓÒ ÒÙÑ Ö Ó

Ø × Ä
Ò× ¸ ÝÓÙ Ñ Ý
ÓÓ× ÒÝ Ú Ö× ÓÒ Ú Ö ÔÙ Ð × Ý Ø Ö ËÓ ØÛ Ö

ÓÙÒ Ø ÓÒº

½º ÌÀ ÈÄ ¾









½¼º Á ÝÓÙ Û × ØÓ Ò
ÓÖÔÓÖ Ø Ô ÖØ× Ó Ø ÈÖÓ Ö Ñ ÒØÓ ÓØ Ö Ö

ÔÖÓ Ö Ñ× Û Ó× ×ØÖ ÙØ ÓÒ
ÓÒ Ø ÓÒ× Ö Ö Òظ ÛÖ Ø ØÓ Ø ÙØ ÓÖ

ØÓ × ÓÖ Ô ÖÑ ×× ÓÒº ÓÖ ×Ó ØÛ Ö Û
×
ÓÔÝÖ Ø Ý Ø Ö

ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ¸ ÛÖ Ø ØÓ Ø Ö ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ Û ×ÓÑ Ø Ñ ×

Ñ Ü
ÔØ ÓÒ× ÓÖ Ø ×º ÇÙÖ
× ÓÒ Û ÐÐ Ù Ý Ø ØÛÓ Ó Ð×

Ó ÔÖ × ÖÚ Ò Ø Ö ×Ø ØÙ× Ó ÐÐ Ö Ú Ø Ú × Ó ÓÙÖ Ö ×Ó ØÛ Ö Ò

Ó ÔÖÓÑÓØ Ò Ø × Ö Ò Ò Ö Ù× Ó ×Ó ØÛ Ö Ò Ö ÐÐݺ



ÆÇ Ï ÊÊ ÆÌ



½½º ÍË ÌÀ ÈÊÇ Ê Å ÁË ÄÁ ÆË Ê Ç À Ê ¸ ÌÀ Ê ÁË ÆÇ Ï ÊÊ ÆÌ

ÇÊ ÌÀ ÈÊÇ Ê Å¸ ÌÇ ÌÀ Ì ÆÌ È ÊÅÁÌÌ ÈÈÄÁ Ä Ä Ïº ÈÌ ÏÀ Æ

ÇÌÀ ÊÏÁË ËÌ Ì ÁÆ ÏÊÁÌÁÆ ÌÀ ÇÈ ÊÁ ÀÌ ÀÇÄ ÊË Æ »ÇÊ ÇÌÀ Ê È ÊÌÁ Ë

ÈÊÇÎÁ ÌÀ ÈÊÇ Ê Å Ë ÁË ÏÁÌÀÇÍÌ Ï ÊÊ ÆÌ Ç Æ ÃÁÆ ¸ ÁÌÀ Ê ÈÊ ËË

ÇÊ ÁÅÈÄÁ ¸ ÁÆ ÄÍ ÁÆ ¸ ÍÌ ÆÇÌ ÄÁÅÁÌ ÌǸ ÌÀ ÁÅÈÄÁ Ï ÊÊ ÆÌÁ Ë Ç

Å Ê À ÆÌ ÁÄÁÌ Æ ÁÌÆ ËË ÇÊ È ÊÌÁ ÍÄ Ê ÈÍÊÈÇË º ÌÀ ÆÌÁÊ ÊÁËÃ Ë

ÌÇ ÌÀ ÉÍ ÄÁÌ Æ È Ê ÇÊÅ Æ Ç ÌÀ ÈÊÇ Ê Å ÁË ÏÁÌÀ Çͺ ËÀÇÍÄ ÌÀ

ÈÊÇ Ê Å ÈÊÇÎ ÌÁÎ ¸ ÇÍ ËËÍÅ ÌÀ ÇËÌ Ç ÄÄ Æ ËË Ê Ë ÊÎÁ ÁÆ ¸

Ê È ÁÊ ÇÊ ÇÊÊ ÌÁÇƺ



½¾º ÁÆ ÆÇ Î ÆÌ ÍÆÄ ËË Ê ÉÍÁÊ ÈÈÄÁ Ä Ä Ï ÇÊ Ê ÌÇ ÁÆ ÏÊÁÌÁÆ

ÏÁÄÄ Æ ÇÈ ÊÁ ÀÌ ÀÇÄ Ê¸ ÇÊ Æ ÇÌÀ Ê È ÊÌ ÏÀÇ Å ÅÇ Á Æ »ÇÊ

Ê ÁËÌÊÁ ÍÌ ÌÀ ÈÊÇ Ê Å Ë È ÊÅÁÌÌ ÇÎ ¸ ÄÁ Ä ÌÇ ÇÍ ÇÊ Å Ë¸

ÁÆ ÄÍ ÁÆ Æ Æ Ê Ä¸ ËÈ Á ĸ ÁÆ Á ÆÌ Ä ÇÊ ÇÆË ÉÍ ÆÌÁ Ä Å Ë ÊÁËÁÆ

ÇÍÌ Ç ÌÀ ÍË ÇÊ ÁÆ ÁÄÁÌ ÌÇ ÍË ÌÀ ÈÊÇ Ê Å ´ÁÆ ÄÍ ÁÆ ÍÌ ÆÇÌ ÄÁÅÁÌ

ÌÇ ÄÇËË Ç Ì ÇÊ Ì ÁÆ Ê Æ Ê ÁÆ ÍÊ Ì ÇÊ ÄÇËË Ë ËÍËÌ ÁÆ

ÇÍ ÇÊ ÌÀÁÊ È ÊÌÁ Ë ÇÊ ÁÄÍÊ Ç ÌÀ ÈÊÇ Ê Å ÌÇ ÇÈ Ê Ì ÏÁÌÀ Æ ÇÌÀ Ê

ÈÊÇ Ê Å˵¸ Î Æ Á ËÍ À ÀÇÄ Ê ÇÊ ÇÌÀ Ê È ÊÌ À Ë Æ ÎÁË Ç ÌÀ

ÈÇËËÁ ÁÄÁÌ Ç ËÍ À Š˺



Æ Ç Ì ÊÅË Æ ÇÆ ÁÌÁÇÆË









ÀÓÛ ØÓ ÔÔÐÝ Ì × Ì ÖÑ× ØÓ ÓÙÖ Æ Û ÈÖÓ Ö Ñ×



Á ÝÓÙ Ú ÐÓÔ Ò Û ÔÖÓ Ö Ñ¸ Ò ÝÓÙ Û ÒØ Ø ØÓ Ó Ø Ö Ø ×Ø

ÔÓ×× Ð Ù× ØÓ Ø ÔÙ Ð
¸ Ø ×Ø Û Ý ØÓ
Ú Ø × × ØÓ Ñ Ø

Ö ×Ó ØÛ Ö Û
Ú ÖÝÓÒ
Ò Ö ×ØÖ ÙØ Ò
Ò ÙÒ Ö Ø × Ø ÖÑ׺



ÌÓ Ó ×Ó¸ ØØ
Ø ÓÐÐÓÛ Ò ÒÓØ
× ØÓ Ø ÔÖÓ Ö Ñº ÁØ × × ×Ø

ØÓ ØØ
Ø Ñ ØÓ Ø ×Ø ÖØ Ó
×ÓÙÖ
Ð ØÓ ÑÓ×Ø
Ø Ú ÐÝ


ÓÒÚ Ý Ø Ü
ÐÙ× ÓÒ Ó Û ÖÖ ÒØÝ Ò
Ð × ÓÙÐ Ú Ø Ð ×Ø

½º ÌÀ ÈÄ ¾







Ø
ÓÔÝÖ Ø Ð Ò Ò ÔÓ ÒØ Ö ØÓ Û Ö Ø ÙÐÐ ÒÓØ
× ÓÙÒ º



ÓÒ Ð Ò ØÓ Ú Ø ÔÖÓ Ö Ñ³× Ò Ñ Ò Ö Ó Û Ø Ø Ó ×º

ÓÔÝÖ Ø ´ µ Ý Ö Ò Ñ Ó ÙØ ÓÖ



Ì × ÔÖÓ Ö Ñ × Ö ×Ó ØÛ Ö ÝÓÙ
Ò Ö ×ØÖ ÙØ Ø Ò »ÓÖ ÑÓ Ý

Ø ÙÒ Ö Ø Ø ÖÑ× Ó Ø ÆÍ Ò Ö Ð ÈÙ Ð
Ä
Ò× × ÔÙ Ð × Ý

Ø Ö ËÓ ØÛ Ö ÓÙÒ Ø ÓÒ Ø Ö Ú Ö× ÓÒ ¾ Ó Ø Ä
Ò× ¸ ÓÖ

´ Ø ÝÓÙÖ ÓÔØ ÓÒµ ÒÝ Ð Ø Ö Ú Ö× ÓÒº



Ì × ÔÖÓ Ö Ñ × ×ØÖ ÙØ Ò Ø ÓÔ Ø Ø Ø Û ÐÐ Ù× Ùи

ÙØ ÏÁÌÀÇÍÌ Æ Ï ÊÊ ÆÌ Û Ø ÓÙØ Ú Ò Ø ÑÔÐ Û ÖÖ ÒØÝ Ó

Å Ê À ÆÌ ÁÄÁÌ ÓÖ ÁÌÆ ËË ÇÊ È ÊÌÁ ÍÄ Ê ÈÍÊÈÇË º Ë Ø

ÆÍ Ò Ö Ð ÈÙ Ð
Ä
Ò× ÓÖ ÑÓÖ Ø Ð׺



ÓÙ × ÓÙÐ Ú Ö
Ú
ÓÔÝ Ó Ø ÆÍ Ò Ö Ð ÈÙ Ð
Ä
Ò×

ÐÓÒ Û Ø Ø × ÔÖÓ Ö Ñ ÒÓظ ÛÖ Ø ØÓ Ø Ö ËÓ ØÛ Ö

ÓÙÒ Ø ÓÒ¸ ÁÒ
º¸ Ì ÑÔÐ ÈÐ
¸ ËÙ Ø ¿¿¼¸ Ó×ØÓÒ¸ Å ¼¾½½½¹½¿¼ ÍË







Ð×Ó Ò ÓÖÑ Ø ÓÒ ÓÒ ÓÛ ØÓ
ÓÒØ
Ø ÝÓÙ Ý Ð
ØÖÓÒ
Ò Ô Ô Ö Ñ Ðº



Á Ø ÔÖÓ Ö Ñ × ÒØ Ö
Ø Ú ¸ Ñ Ø ÓÙØÔÙØ × ÓÖØ ÒÓØ
Ð Ø ×

Û Ò Ø ×Ø ÖØ× Ò Ò ÒØ Ö
Ø Ú ÑÓ



ÒÓÑÓÚ × ÓÒ Ú Ö× ÓÒ ¸ ÓÔÝÖ Ø ´ µ Ý Ö Ò Ñ Ó ÙØ ÓÖ

ÒÓÑÓÚ × ÓÒ
ÓÑ × Û Ø ËÇÄÍÌ Ä ÆÇ Ï ÊÊ ÆÌ ÓÖ Ø Ð× ØÝÔ × ÓÛ Û³º

Ì × × Ö ×Ó ØÛ Ö ¸ Ò ÝÓÙ Ö Û Ð
ÓÑ ØÓ Ö ×ØÖ ÙØ Ø

ÙÒ Ö
ÖØ Ò
ÓÒ Ø ÓÒ× ØÝÔ × ÓÛ
³ ÓÖ Ø Ð׺



Ì ÝÔÓØ Ø
Ð
ÓÑÑ Ò × × ÓÛ Û³ Ò × ÓÛ
³ × ÓÙÐ × ÓÛ Ø ÔÔÖÓÔÖ Ø

Ô ÖØ× Ó Ø Ò Ö Ð ÈÙ Ð
Ä
Ò× º Ç
ÓÙÖ× ¸ Ø
ÓÑÑ Ò × ÝÓÙ Ù× Ñ Ý


ÐÐ ×ÓÑ Ø Ò ÓØ Ö Ø Ò × ÓÛ Û³ Ò × ÓÛ
³ Ø Ý
ÓÙÐ Ú Ò

ÑÓÙ× ¹
Ð
× ÓÖ Ñ ÒÙ Ø Ñ×¹¹Û Ø Ú Ö ×Ù Ø× ÝÓÙÖ ÔÖÓ Ö Ñº



ÓÙ × ÓÙÐ Ð×Ó Ø ÝÓÙÖ ÑÔÐÓÝ Ö ´ ÝÓÙ ÛÓÖ × ÔÖÓ Ö ÑÑ Öµ ÓÖ ÝÓÙÖ

×
ÓÓи Òݸ ØÓ × Ò
ÓÔÝÖ Ø ×
Ð Ñ Ö ÓÖ Ø ÔÖÓ Ö Ñ¸

Ò
×× Öݺ À Ö × × ÑÔÐ ÐØ Ö Ø Ò Ñ ×



ÓÝÓ ÝÒ ¸ ÁÒ
º¸ Ö Ý ×
Ð Ñ× ÐÐ
ÓÔÝÖ Ø ÒØ Ö ×Ø Ò Ø ÔÖÓ Ö Ñ

ÒÓÑÓÚ × ÓÒ³ ´Û
Ñ × Ô ×× × Ø
ÓÑÔ Ð Ö×µ ÛÖ ØØ Ò Ý Â Ñ × À
Öº



× Ò ØÙÖ Ó ÌÝ ÓÓÒ ¸ ½ ÔÖ Ð ½

ÌÝ ÓÓÒ¸ ÈÖ × ÒØ Ó Î




Ì × Ò Ö Ð ÈÙ Ð
Ä
Ò× Ó × ÒÓØ Ô ÖÑ Ø Ò
ÓÖÔÓÖ Ø Ò ÝÓÙÖ ÔÖÓ Ö Ñ ÒØÓ

¾º Ê ÌÁÎ ÇÅÅÇÆË ¾







ÔÖÓÔÖ Ø ÖÝ ÔÖÓ Ö Ñ׺ Á ÝÓÙÖ ÔÖÓ Ö Ñ × ×Ù ÖÓÙØ Ò Ð Ö Öݸ ÝÓÙ Ñ Ý


ÓÒ× Ö Ø ÑÓÖ Ù× ÙÐ ØÓ Ô ÖÑ Ø Ð Ò Ò ÔÖÓÔÖ Ø ÖÝ ÔÔÐ
Ø ÓÒ× Û Ø Ø

Ð Ö Öݺ Á Ø × × Û Ø ÝÓÙ Û ÒØ ØÓ Ó¸ Ù× Ø ÆÍ Ä Ö ÖÝ Ò Ö Ð

ÈÙ Ð
Ä
Ò× Ò×Ø Ó Ø × Ä
Ò× º





¾º Ö ØÚ ÓÑÑÓÒ×

Ä Ð Ó



ØØÖ ÙØ ÓÒ¹Ë Ö Ð ¾º



Ê ÌÁÎ ÇÅÅÇÆË ÇÊÈÇÊ ÌÁÇÆ ÁË ÆÇÌ Ä Ï ÁÊÅ Æ Ç Ë ÆÇÌ



ÈÊÇÎÁ Ä Ä Ë ÊÎÁ ˺ ÁËÌÊÁ ÍÌÁÇÆ Ç ÌÀÁË ÄÁ ÆË Ç Ë ÆÇÌ Ê ¹



Ì Æ ÌÌÇÊÆ ¹ ÄÁ ÆÌ Ê Ä ÌÁÇÆËÀÁȺ Ê ÌÁÎ ÇÅÅÇÆË ÈÊÇÎÁ Ë



ÌÀÁË ÁÆ ÇÊÅ ÌÁÇÆ ÇÆ Æ Ë¹ÁË ËÁ˺ Ê ÌÁÎ ÇÅÅÇÆË Å Ã Ë ÆÇ



Ï ÊÊ ÆÌÁ Ë Ê Ê ÁÆ ÌÀ ÁÆ ÇÊÅ ÌÁÇÆ ÈÊÇÎÁ ¸ Æ ÁË Ä ÁÅË



ÄÁ ÁÄÁÌ ÇÊ Å Ë Ê ËÍÄÌÁÆ ÊÇÅ ÁÌË ÍË º



Ä
Ò×



ÌÀ ÏÇÊà ´ Ë ÁÆ ÄÇϵ ÁË ÈÊÇÎÁ ÍÆ Ê ÌÀ Ì ÊÅË Ç



ÌÀÁË Ê ÌÁÎ ÇÅÅÇÆË ÈÍ ÄÁ ÄÁ ÆË ´ ÈÄ ÇÊ ÄÁ ÆË µº ÌÀ



ÏÇÊà ÁË ÈÊÇÌ Ì ÇÈ ÊÁ ÀÌ Æ »ÇÊ ÇÌÀ Ê ÈÈÄÁ Ä Ä Ïº



Æ ÍË Ç ÌÀ ÏÇÊÃ ÇÌÀ Ê ÌÀ Æ Ë ÍÌÀÇÊÁ ÍÆ Ê ÌÀÁË ÄÁ ÆË



ÇÊ ÇÈ ÊÁ ÀÌ Ä Ï ÁË ÈÊÇÀÁ ÁÌ º



Ê ÁËÁÆ Æ ÊÁ ÀÌË ÌÇ ÌÀ ÏÇÊÃ ÈÊÇÎÁ À Ê ¸ ÇÍ ¹



ÈÌ Æ Ê ÌÇ ÇÍÆ ÌÀ Ì ÊÅË Ç ÌÀÁË ÄÁ ÆË º ÌÀ ÄÁ¹



ÆËÇÊ Ê ÆÌË ÇÍ ÌÀ ÊÁ ÀÌË ÇÆÌ ÁÆ À Ê ÁÆ ÇÆËÁ Ê ÌÁÇÆ



Ç ÇÍÊ ÈÌ Æ Ç ËÍ À Ì ÊÅË Æ ÇÆ ÁÌÁÇÆ˺



½º Ò Ø ÓÒ×



½º ÓÐÐ
Ø Ú ÏÓÖ Ñ Ò× ÛÓÖ ¸ ×Ù
× Ô Ö Ó
Ð ××Ù ¸ ÒØ ÓÐÓ Ý ÓÖ Ò
Ý
ÐÓ¹



Ô ¸ Ò Û
Ø ÏÓÖ Ò Ø× ÒØ Ö ØÝ Ò ÙÒÑÓ ÓÖѸ ÐÓÒ Û Ø ÒÙÑ Ö Ó ÓØ Ö




ÓÒØÖ ÙØ ÓÒ׸
ÓÒ×Ø ØÙØ Ò × Ô Ö Ø Ò Ò Ô Ò ÒØ ÛÓÖ × Ò Ø Ñ× ÐÚ ×¸ Ö ×× Ñ Ð



ÒØÓ
ÓÐÐ
Ø Ú Û ÓÐ º ÛÓÖ Ø Ø
ÓÒ×Ø ØÙØ × ÓÐÐ
Ø Ú ÏÓÖ Û ÐÐ ÒÓØ
ÓÒ× Ö



Ö Ú Ø Ú ÏÓÖ ´ × Ò ÐÓÛµ ÓÖ Ø ÔÙÖÔÓ× × Ó Ø × Ä
Ò× º



¾º Ö Ú Ø Ú ÏÓÖ Ñ Ò× ÛÓÖ × ÙÔÓÒ Ø ÏÓÖ ÓÖ ÙÔÓÒ Ø ÏÓÖ Ò ÓØ Ö



ÔÖ ¹ Ü ×Ø Ò ÛÓÖ ×¸ ×Ù
× ØÖ Ò×Ð Ø ÓÒ¸ ÑÙ×
Ð ÖÖ Ò Ñ Òظ Ö Ñ Ø Þ Ø ÓÒ¸
Ø ÓÒ Ð Þ ¹



Ø ÓÒ¸ ÑÓØ ÓÒ Ô
ØÙÖ Ú Ö× ÓÒ¸ ×ÓÙÒ Ö
ÓÖ Ò ¸ ÖØ Ö ÔÖÓ Ù
Ø ÓÒ¸ Ö Ñ Òظ
ÓÒ Ò× Ø ÓÒ¸



ÓÖ ÒÝ ÓØ Ö ÓÖÑ Ò Û
Ø ÏÓÖ Ñ Ý Ö
×ظ ØÖ Ò× ÓÖÑ ¸ ÓÖ ÔØ ¸ Ü
ÔØ Ø Ø



ÛÓÖ Ø Ø
ÓÒ×Ø ØÙØ × ÓÐÐ
Ø Ú ÏÓÖ Û ÐÐ ÒÓØ
ÓÒ× Ö Ö Ú Ø Ú ÏÓÖ ÓÖ



Ø ÔÙÖÔÓ× Ó Ø × Ä
Ò× º ÓÖ Ø ÚÓ Ò
Ó Ó٠ظ Û Ö Ø ÏÓÖ × ÑÙ×
Ð




ÓÑÔÓ× Ø ÓÒ ÓÖ ×ÓÙÒ Ö
ÓÖ Ò ¸ Ø ×ÝÒ
ÖÓÒ Þ Ø ÓÒ Ó Ø ÏÓÖ Ò Ø Ñ ¹Ö Ð Ø ÓÒ Û Ø



ÑÓÚ Ò Ñ ´ ×ÝÒ
Ò µ Û ÐÐ
ÓÒ× Ö Ö Ú Ø Ú ÏÓÖ ÓÖ Ø ÔÙÖÔÓ× Ó Ø ×



Ä
Ò× º



¿º Ä
Ò×ÓÖ Ñ Ò× Ø Ò Ú Ù Ð ÓÖ ÒØ ØÝ Ø Ø Ó Ö× Ø ÏÓÖ ÙÒ Ö Ø Ø ÖÑ× Ó



Ø × Ä
Ò× º



º ÇÖ Ò Ð ÙØ ÓÖ Ñ Ò× Ø Ò Ú Ù Ð ÓÖ ÒØ ØÝ Û Ó
Ö Ø Ø ÏÓÖ º



º ÏÓÖ Ñ Ò× Ø
ÓÔÝÖ Ø Ð ÛÓÖ Ó ÙØ ÓÖ× Ô Ó Ö ÙÒ Ö Ø Ø ÖÑ× Ó Ø ×



Ä
Ò× º



º ÓÙ Ñ Ò× Ò Ò Ú Ù Ð ÓÖ ÒØ ØÝ Ü Ö
× Ò Ö Ø× ÙÒ Ö Ø × Ä
Ò× Û Ó ×



ÒÓØ ÔÖ Ú ÓÙ×ÐÝ Ú ÓÐ Ø Ø Ø ÖÑ× Ó Ø × Ä
Ò× Û Ø Ö ×Ô
Ø ØÓ Ø ÏÓÖ ¸ ÓÖ Û Ó ×

¾º Ê ÌÁÎ ÇÅÅÇÆË ¾







Ö
Ú ÜÔÖ ×× Ô ÖÑ ×× ÓÒ ÖÓÑ Ø Ä
Ò×ÓÖ ØÓ Ü Ö
× Ö Ø× ÙÒ Ö Ø × Ä
Ò× ×Ô Ø



ÔÖ Ú ÓÙ× Ú ÓÐ Ø ÓÒº



º Ä
Ò× Ð Ñ ÒØ× Ñ Ò× Ø ÓÐÐÓÛ Ò ¹Ð Ú Ð Ð
Ò× ØØÖ ÙØ × × × Ð
Ø Ý



Ä
Ò×ÓÖ Ò Ò
Ø Ò Ø Ø ØÐ Ó Ø × Ä
Ò× ØØÖ ÙØ ÓÒ¸ Ë Ö Ð º



¾º Ö Í× Ê Ø׺ ÆÓØ Ò Ò Ø × Ð
Ò× × ÒØ Ò ØÓ Ö Ù
¸ Ð Ñ Ø¸ ÓÖ Ö ×ØÖ
Ø ÒÝ



Ö Ø× Ö × Ò ÖÓÑ Ö Ù× ¸ Ö×Ø × Ð ÓÖ ÓØ Ö Ð Ñ Ø Ø ÓÒ× ÓÒ Ø Ü
ÐÙ× Ú Ö Ø× Ó Ø




ÓÔÝÖ Ø ÓÛÒ Ö ÙÒ Ö
ÓÔÝÖ Ø Ð Û ÓÖ ÓØ Ö ÔÔÐ
Ð Ð Û׺



¿º Ä
Ò× Ö Òغ ËÙ
Ø ØÓ Ø Ø ÖÑ× Ò
ÓÒ Ø ÓÒ× Ó Ø × Ä
Ò× ¸ Ä
Ò×ÓÖ Ö Ý



Ö ÒØ× ÓÙ ÛÓÖÐ Û ¸ ÖÓÝ ÐØݹ Ö ¸ ÒÓÒ¹ Ü
ÐÙ× Ú ¸ Ô ÖÔ ØÙ Ð ´ ÓÖ Ø ÙÖ Ø ÓÒ Ó Ø



ÔÔÐ
Ð
ÓÔÝÖ Øµ Ð
Ò× ØÓ Ü Ö
× Ø Ö Ø× Ò Ø ÏÓÖ × ×Ø Ø ÐÓÛ



½º ØÓ Ö ÔÖÓ Ù
Ø ÏÓÖ ¸ ØÓ Ò
ÓÖÔÓÖ Ø Ø ÏÓÖ ÒØÓ ÓÒ ÓÖ ÑÓÖ ÓÐÐ
Ø Ú ÏÓÖ ×¸



Ò ØÓ Ö ÔÖÓ Ù
Ø ÏÓÖ × Ò
ÓÖÔÓÖ Ø Ò Ø ÓÐÐ
Ø Ú ÏÓÖ ×



¾º ØÓ
Ö Ø Ò Ö ÔÖÓ Ù
Ö Ú Ø Ú ÏÓÖ ×



¿º ØÓ ×ØÖ ÙØ
ÓÔ × ÓÖ Ô ÓÒÓÖ
ÓÖ × Ó ¸ ×ÔÐ Ý ÔÙ Ð
Ðݸ Ô Ö ÓÖÑ ÔÙ Ð
Ðݸ Ò Ô Ö¹



ÓÖÑ ÔÙ Ð
ÐÝ Ý Ñ Ò× Ó Ø Ð Ù Ó ØÖ Ò×Ñ ×× ÓÒ Ø ÏÓÖ Ò
ÐÙ Ò × Ò
ÓÖÔÓÖ Ø



Ò ÓÐÐ
Ø Ú ÏÓÖ ×



º ØÓ ×ØÖ ÙØ
ÓÔ × ÓÖ Ô ÓÒÓÖ
ÓÖ × Ó ¸ ×ÔÐ Ý ÔÙ Ð
Ðݸ Ô Ö ÓÖÑ ÔÙ Ð
Ðݸ Ò



Ô Ö ÓÖÑ ÔÙ Ð
ÐÝ Ý Ñ Ò× Ó Ø Ð Ù Ó ØÖ Ò×Ñ ×× ÓÒ Ö Ú Ø Ú ÏÓÖ ×º



º



ÓÖ Ø ÚÓ Ò
Ó Ó٠ظ Û Ö Ø ÛÓÖ × ÑÙ×
Ð
ÓÑÔÓ× Ø ÓÒ



½º È Ö ÓÖÑ Ò
ÊÓÝ ÐØ × ÍÒ Ö Ð Ò Ø Ä
Ò× ×º Ä
Ò×ÓÖ Û Ú × Ø Ü
ÐÙ× Ú Ö Ø



ØÓ
ÓÐÐ
ظ Û Ø Ö Ò Ú Ù ÐÐÝ ÓÖ Ú Ô Ö ÓÖÑ Ò
Ö Ø× ×Ó
ØÝ ´ º º Ë È¸ ÅÁ¸



Ë Ë µ¸ ÖÓÝ ÐØ × ÓÖ Ø ÔÙ Ð
Ô Ö ÓÖÑ Ò
ÓÖ ÔÙ Ð
Ø Ð Ô Ö ÓÖÑ Ò
´ º º Û
×ص



Ó Ø ÏÓÖ º



¾º Å
Ò
Ð Ê Ø× Ò ËØ ØÙØÓÖÝ ÊÓÝ ÐØ ×º Ä
Ò×ÓÖ Û Ú × Ø Ü
ÐÙ× Ú Ö Ø ØÓ




ÓÐÐ
ظ Û Ø Ö Ò Ú Ù ÐÐÝ ÓÖ Ú ÑÙ×
Ö Ø× ×Ó
ØÝ ÓÖ × Ò Ø ÒØ ´ º º À ÖÖÝ



ÓÜ Ò
ݵ¸ ÖÓÝ ÐØ × ÓÖ ÒÝ Ô ÓÒÓÖ
ÓÖ ÓÙ
Ö Ø ÖÓÑ Ø ÏÓÖ ´
ÓÚ Ö Ú Ö× ÓÒ µ



Ò ×ØÖ ÙØ ¸ ×Ù
Ø ØÓ Ø
ÓÑÔÙÐ×ÓÖÝ Ð
Ò×
Ö Ø Ý ½ ÍË Ë
Ø ÓÒ ½½ Ó Ø ÍË



ÓÔÝÖ Ø
Ø ´ÓÖ Ø ÕÙ Ú Ð ÒØ Ò ÓØ Ö ÙÖ ×
Ø ÓÒ×µº



º Ï
×Ø Ò Ê Ø× Ò ËØ ØÙØÓÖÝ ÊÓÝ ÐØ ×º ÓÖ Ø ÚÓ Ò
Ó Ó٠ظ Û Ö Ø



ÏÓÖ × ×ÓÙÒ Ö
ÓÖ Ò ¸ Ä
Ò×ÓÖ Û Ú × Ø Ü
ÐÙ× Ú Ö Ø ØÓ
ÓÐÐ
ظ Û Ø Ö Ò Ú ¹



Ù ÐÐÝ ÓÖ Ú Ô Ö ÓÖÑ Ò
¹Ö Ø× ×Ó
ØÝ ´ º º ËÓÙÒ Ü
Ò µ¸ ÖÓÝ ÐØ × ÓÖ Ø ÔÙ Ð




Ø Ð Ô Ö ÓÖÑ Ò
´ º º Û
×ص Ó Ø ÏÓÖ ¸ ×Ù
Ø ØÓ Ø
ÓÑÔÙÐ×ÓÖÝ Ð
Ò×
Ö Ø



Ý ½ ÍË Ë
Ø ÓÒ ½½ Ó Ø ÍË ÓÔÝÖ Ø
Ø ´ÓÖ Ø ÕÙ Ú Ð ÒØ Ò ÓØ Ö ÙÖ ×
Ø ÓÒ×µº



Ì ÓÚ Ö Ø× Ñ Ý Ü Ö
× Ò ÐÐ Ñ Ò ÓÖÑ Ø× Û Ø Ö ÒÓÛ ÒÓÛÒ ÓÖ



Ö Ø Ö Ú × º Ì ÓÚ Ö Ø× Ò
ÐÙ Ø Ö Ø ØÓ Ñ ×Ù
ÑÓ
Ø ÓÒ× × Ö



Ø
Ò
ÐÐÝ Ò
×× ÖÝ ØÓ Ü Ö
× Ø Ö Ø× Ò ÓØ Ö Ñ Ò ÓÖÑ Ø׺ ÐÐ Ö Ø× ÒÓØ



ÜÔÖ ××ÐÝ Ö ÒØ Ý Ä
Ò×ÓÖ Ö Ö Ý Ö × ÖÚ º



º Ê ×ØÖ
Ø ÓÒ×ºÌ Ð
Ò× Ö ÒØ Ò Ë
Ø ÓÒ ¿ ÓÚ × ÜÔÖ ××ÐÝ Ñ ×Ù
Ø ØÓ Ò



Ð Ñ Ø Ý Ø ÓÐÐÓÛ Ò Ö ×ØÖ
Ø ÓÒ×



½º ÓÙ Ñ Ý ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖÑ



Ø ÏÓÖ ÓÒÐÝ ÙÒ Ö Ø Ø ÖÑ× Ó Ø × Ä
Ò× ¸ Ò ÓÙ ÑÙ×Ø Ò
ÐÙ
ÓÔÝ Ó ¸ ÓÖ Ø



ÍÒ ÓÖÑ Ê ×ÓÙÖ
Á ÒØ Ö ÓÖ¸ Ø × Ä
Ò× Û Ø Ú ÖÝ
ÓÔÝ ÓÖ Ô ÓÒÓÖ
ÓÖ Ó Ø ÏÓÖ



ÓÙ ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖѺ ÓÙ Ñ Ý



ÒÓØ Ó Ö ÓÖ ÑÔÓ× ÒÝ Ø ÖÑ× ÓÒ Ø ÏÓÖ Ø Ø ÐØ Ö ÓÖ Ö ×ØÖ
Ø Ø Ø ÖÑ× Ó Ø × Ä
Ò×



ÓÖ Ø Ö
Ô ÒØ׳ Ü Ö
× Ó Ø Ö Ø× Ö ÒØ Ö ÙÒ Öº ÓÙ Ñ Ý ÒÓØ ×Ù Ð
Ò× Ø

¾º Ê ÌÁÎ ÇÅÅÇÆË ¾







ÏÓÖ º ÓÙ ÑÙ×Ø Ô ÒØ
Ø ÐÐ ÒÓØ
× Ø Ø Ö Ö ØÓ Ø × Ä
Ò× Ò ØÓ Ø ×
Ð Ñ Ö Ó



Û ÖÖ ÒØ ×º ÓÙ Ñ Ý ÒÓØ ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ



Ô Ö ÓÖÑ Ø ÏÓÖ Û Ø ÒÝ Ø
ÒÓÐÓ
Ð Ñ ×ÙÖ × Ø Ø
ÓÒØÖÓÐ

×× ÓÖ Ù× Ó Ø ÏÓÖ Ò



Ñ ÒÒ Ö Ò
ÓÒ× ×Ø ÒØ Û Ø Ø Ø ÖÑ× Ó Ø × Ä
Ò× Ö Ñ Òغ Ì ÓÚ ÔÔÐ × ØÓ Ø



ÏÓÖ × Ò
ÓÖÔÓÖ Ø Ò ÓÐÐ
Ø Ú ÏÓÖ ¸ ÙØ Ø × Ó × ÒÓØ Ö ÕÙ Ö Ø ÓÐÐ
Ø Ú ÏÓÖ



Ô ÖØ ÖÓÑ Ø ÏÓÖ Ø× Ð ØÓ Ñ ×Ù
Ø ØÓ Ø Ø ÖÑ× Ó Ø × Ä
Ò× º Á ÓÙ
Ö Ø



ÓÐÐ
Ø Ú ÏÓÖ ¸ ÙÔÓÒ ÒÓØ
ÖÓÑ ÒÝ Ä
Ò×ÓÖ ÓÙ ÑÙ×ظ ØÓ Ø ÜØ ÒØ ÔÖ
Ø
Ð ¸



Ö ÑÓÚ ÖÓÑ Ø ÓÐÐ
Ø Ú ÏÓÖ ÒÝ
Ö Ø × Ö ÕÙ Ö Ý
Ð Ù× ´
µ¸ × Ö ÕÙ ×Ø º Á



ÓÙ
Ö Ø Ö Ú Ø Ú ÏÓÖ ¸ ÙÔÓÒ ÒÓØ
ÖÓÑ ÒÝ Ä
Ò×ÓÖ ÓÙ ÑÙ×ظ ØÓ Ø ÜØ ÒØ



ÔÖ
Ø
Ð ¸ Ö ÑÓÚ ÖÓÑ Ø Ö Ú Ø Ú ÏÓÖ ÒÝ
Ö Ø × Ö ÕÙ Ö Ý
Ð Ù× ´
µ¸ ×



Ö ÕÙ ×Ø º



¾º ÓÙ Ñ Ý ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖÑ



Ö Ú Ø Ú ÏÓÖ ÓÒÐÝ ÙÒ Ö Ø Ø ÖÑ× Ó Ø × Ä
Ò× ¸ Ð Ø Ö Ú Ö× ÓÒ Ó Ø × Ä
Ò×



Û Ø Ø × Ñ Ä
Ò× Ð Ñ ÒØ× × Ø × Ä
Ò× ¸ ÓÖ Ö Ø Ú ÓÑÑÓÒ× ÓÑÑÓÒ× Ð
Ò×



Ø Ø
ÓÒØ Ò× Ø × Ñ Ä
Ò× Ð Ñ ÒØ× × Ø × Ä
Ò× ´ º º ØØÖ ÙØ ÓÒ¹Ë Ö Ð ¾º



Â Ô Òµº ÓÙ ÑÙ×Ø Ò
ÐÙ
ÓÔÝ Ó ¸ ÓÖ Ø ÍÒ ÓÖÑ Ê ×ÓÙÖ
Á ÒØ Ö ÓÖ¸ Ø × Ä
Ò×



ÓÖ ÓØ Ö Ð
Ò× ×Ô
Ò Ø ÔÖ Ú ÓÙ× × ÒØ Ò
Û Ø Ú ÖÝ
ÓÔÝ ÓÖ Ô ÓÒÓÖ
ÓÖ Ó




Ö Ú Ø Ú ÏÓÖ ÓÙ ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ



Ô Ö ÓÖѺ ÓÙ Ñ Ý ÒÓØ Ó Ö ÓÖ ÑÔÓ× ÒÝ Ø ÖÑ× ÓÒ Ø Ö Ú Ø Ú ÏÓÖ × Ø Ø ÐØ Ö ÓÖ



Ö ×ØÖ
Ø Ø Ø ÖÑ× Ó Ø × Ä
Ò× ÓÖ Ø Ö
Ô ÒØ׳ Ü Ö
× Ó Ø Ö Ø× Ö ÒØ Ö ÙÒ Ö¸



Ò ÓÙ ÑÙ×Ø Ô ÒØ
Ø ÐÐ ÒÓØ
× Ø Ø Ö Ö ØÓ Ø × Ä
Ò× Ò ØÓ Ø ×
Ð Ñ Ö Ó



Û ÖÖ ÒØ ×º ÓÙ Ñ Ý ÒÓØ ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ



Ô Ö ÓÖÑ Ø Ö Ú Ø Ú ÏÓÖ Û Ø ÒÝ Ø
ÒÓÐÓ
Ð Ñ ×ÙÖ × Ø Ø
ÓÒØÖÓÐ

×× ÓÖ Ù× Ó



Ø ÏÓÖ Ò Ñ ÒÒ Ö Ò
ÓÒ× ×Ø ÒØ Û Ø Ø Ø ÖÑ× Ó Ø × Ä
Ò× Ö Ñ Òغ Ì ÓÚ



ÔÔÐ × ØÓ Ø Ö Ú Ø Ú ÏÓÖ × Ò
ÓÖÔÓÖ Ø Ò ÓÐÐ
Ø Ú ÏÓÖ ¸ ÙØ Ø × Ó × ÒÓØ



Ö ÕÙ Ö Ø ÓÐÐ
Ø Ú ÏÓÖ Ô ÖØ ÖÓÑ Ø Ö Ú Ø Ú ÏÓÖ Ø× Ð ØÓ Ñ ×Ù
Ø ØÓ



Ø Ø ÖÑ× Ó Ø × Ä
Ò× º



¿º Á ÝÓÙ ×ØÖ ÙØ ¸ ÔÙ Ð
ÐÝ ×ÔРݸ ÔÙ Ð
ÐÝ Ô Ö ÓÖѸ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖÑ



Ø ÏÓÖ ÓÖ ÒÝ Ö Ú Ø Ú ÏÓÖ × ÓÖ ÓÐÐ
Ø Ú ÏÓÖ ×¸ ÓÙ ÑÙ×Ø Ô ÒØ
Ø ÐÐ
ÓÔÝÖ Ø



ÒÓØ
× ÓÖ Ø ÏÓÖ Ò ÔÖÓÚ ¸ Ö ×ÓÒ Ð ØÓ Ø Ñ ÙÑ ÓÖ Ñ Ò× ÓÙ Ö ÙØ Ð Þ Ò



´ µ Ø Ò Ñ Ó Ø ÇÖ Ò Ð ÙØ ÓÖ ´ÓÖ Ô× Ù ÓÒÝѸ ÔÔÐ
Ð µ ×ÙÔÔÐ ¸ Ò »ÓÖ ´ µ



Ø ÇÖ Ò Ð ÙØ ÓÖ Ò »ÓÖ Ä
Ò×ÓÖ × Ò Ø ÒÓØ Ö Ô ÖØÝ ÓÖ Ô ÖØ × ´ º º ×ÔÓÒ×ÓÖ



Ò×Ø ØÙØ ¸ ÔÙ Ð × Ò ÒØ Øݸ ÓÙÖÒ Ðµ ÓÖ ØØÖ ÙØ ÓÒ Ò Ä
Ò×ÓÖ³×
ÓÔÝÖ Ø ÒÓØ
¸ Ø ÖÑ×



Ó × ÖÚ
ÓÖ Ý ÓØ Ö Ö ×ÓÒ Ð Ñ Ò׸ Ø Ò Ñ Ó ×Ù
Ô ÖØÝ ÓÖ Ô ÖØ × Ø Ø ØÐ Ó Ø



ÏÓÖ ×ÙÔÔÐ ØÓ Ø ÜØ ÒØ Ö ×ÓÒ ÐÝ ÔÖ
Ø
Ð ¸ Ø ÍÒ ÓÖÑ Ê ×ÓÙÖ
Á ÒØ Ö¸



Òݸ Ø Ø Ä
Ò×ÓÖ ×Ô
× ØÓ ××Ó
Ø Û Ø Ø ÏÓÖ ¸ ÙÒÐ ×× ×Ù
ÍÊÁ Ó × ÒÓØ



Ö Ö ØÓ Ø
ÓÔÝÖ Ø ÒÓØ
ÓÖ Ð
Ò× Ò Ò ÓÖÑ Ø ÓÒ ÓÖ Ø ÏÓÖ Ò Ò Ø
× Ó



Ö Ú Ø Ú ÏÓÖ ¸
Ö Ø ÒØ Ý Ò Ø Ù× Ó Ø ÏÓÖ Ò Ø Ö Ú Ø Ú ÏÓÖ ´ º º¸



Ö Ò
ØÖ Ò×Ð Ø ÓÒ Ó Ø ÏÓÖ Ý ÇÖ Ò Ð ÙØ ÓÖ¸ ÓÖ Ë
Ö ÒÔÐ Ý × ÓÒ ÓÖ Ò Ð



ÏÓÖ Ý ÇÖ Ò Ð ÙØ ÓÖ µº ËÙ

Ö Ø Ñ Ý ÑÔÐ Ñ ÒØ Ò ÒÝ Ö ×ÓÒ Ð Ñ ÒÒ Ö



ÔÖÓÚ ¸ ÓÛ Ú Ö¸ Ø Ø ÒØ
× Ó Ö Ú Ø Ú ÏÓÖ ÓÖ ÓÐÐ
Ø Ú ÏÓÖ ¸ Ø Ñ Ò ÑÙÑ



×Ù

Ö Ø Û ÐÐ ÔÔ Ö Û Ö ÒÝ ÓØ Ö
ÓÑÔ Ö Ð ÙØ ÓÖ× Ô
Ö Ø ÔÔ Ö× Ò Ò



Ñ ÒÒ Ö Ø Ð ×Ø × ÔÖÓÑ Ò ÒØ × ×Ù
ÓØ Ö
ÓÑÔ Ö Ð ÙØ ÓÖ× Ô
Ö Øº



º Ê ÔÖ × ÒØ Ø ÓÒ׸ Ï ÖÖ ÒØ × Ò ×
Ð Ñ Ö

¾º Ê ÌÁÎ ÇÅÅÇÆË ¾ ¼







ÍÆÄ ËË ÇÌÀ ÊÏÁË Ê ÌÇ ÌÀ È ÊÌÁ Ë ÁÆ ÏÊÁÌÁÆ ¸ ÄÁ ƹ



ËÇÊ Ç ÊË ÌÀ ÏÇÊà ˹ÁË Æ Å Ã Ë ÆÇ Ê ÈÊ Ë ÆÌ ÌÁÇÆË ÇÊ Ï Ê¹



Ê ÆÌÁ Ë Ç Æ ÃÁÆ ÇÆ ÊÆÁÆ ÌÀ Å Ì ÊÁ Ä˸ ÈÊ Ë˸ ÁÅÈÄÁ ¸



ËÌ ÌÍÌÇÊ ÇÊ ÇÌÀ ÊÏÁË ¸ ÁÆ ÄÍ ÁÆ ¸ ÏÁÌÀÇÍÌ ÄÁÅÁÌ ÌÁÇƸ Ï ÊÊ ÆÌÁ Ë



Ç ÌÁÌÄ ¸ Å Ê À ÆÌÁ ÁÄÁÌ ¸ ÁÌÆ ËË ÇÊ È ÊÌÁ ÍÄ Ê ÈÍÊÈÇË ¸ ÆÇƹ



ÁÆ ÊÁÆ Å Æ̸ ÇÊ ÌÀ Ë Æ Ç Ä Ì ÆÌ ÇÊ ÇÌÀ Ê Ì˸ ͹



Ê ¸ ÇÊ ÌÀ ÈÊ Ë Æ Ç Ë Æ Ç ÊÊÇÊ˸ ÏÀ ÌÀ Ê ÇÊ ÆÇÌ Á˹



ÇÎ Ê Ä º ËÇÅ ÂÍÊÁË Á ÌÁÇÆË Ç ÆÇÌ ÄÄÇÏ ÌÀ ÄÍËÁÇÆ Ç ÁŹ



ÈÄÁ Ï ÊÊ ÆÌÁ ˸ ËÇ ËÍ À ÄÍËÁÇÆ Å ÆÇÌ ÈÈÄ ÌÇ Çͺ



º Ä Ñ Ø Ø ÓÒ ÓÒ Ä Ð Øݺ ÈÌ ÌÇ ÌÀ Ì ÆÌ Ê ÉÍÁÊ ÈÈÄÁ ¹



Ä Ä Ï¸ ÁÆ ÆÇ Î ÆÌ ÏÁÄÄ ÄÁ ÆËÇÊ ÄÁ Ä ÌÇ ÇÍ ÇÆ Æ Ä Ä



ÌÀ ÇÊ ÇÊ Æ ËÈ Á ĸ ÁÆ Á ÆÌ Ä¸ ÇÆË ÉÍ ÆÌÁ ĸ ÈÍÆÁÌÁÎ ÇÊ



ÅÈÄ Ê Å Ë ÊÁËÁÆ ÇÍÌ Ç ÌÀÁË ÄÁ ÆË ÇÊ ÌÀ ÍË Ç ÌÀ



ÏÇÊø Î ÆÁ ÄÁ ÆËÇÊ À Ë Æ ÎÁË Ç ÌÀ ÈÇËËÁ ÁÄÁÌ Ç ËÍ À



Š˺



º Ì ÖÑ Ò Ø ÓÒ



½º Ì × Ä
Ò× Ò Ø Ö Ø× Ö ÒØ Ö ÙÒ Ö Û ÐÐ Ø ÖÑ Ò Ø ÙØÓÑ Ø
ÐÐÝ ÙÔÓÒ



ÒÝ Ö
Ý ÓÙ Ó Ø Ø ÖÑ× Ó Ø × Ä
Ò× º ÁÒ Ú Ù Ð× ÓÖ ÒØ Ø × Û Ó Ú Ö
Ú



Ö Ú Ø Ú ÏÓÖ × ÓÖ ÓÐÐ
Ø Ú ÏÓÖ × ÖÓÑ ÓÙ ÙÒ Ö Ø × Ä
Ò× ¸ ÓÛ Ú Ö¸ Û ÐÐ ÒÓØ Ú



Ø Ö Ð
Ò× × Ø ÖÑ Ò Ø ÔÖÓÚ ×Ù
Ò Ú Ù Ð× ÓÖ ÒØ Ø × Ö Ñ Ò Ò ÙÐÐ
ÓÑÔÐ Ò




Û Ø Ø Ó× Ð
Ò× ×º Ë
Ø ÓÒ× ½¸ ¾¸ ¸ ¸ ¸ Ò Û ÐÐ ×ÙÖÚ Ú ÒÝ Ø ÖÑ Ò Ø ÓÒ Ó Ø × Ä
Ò× º



¾º ËÙ
Ø ØÓ Ø ÓÚ Ø ÖÑ× Ò
ÓÒ Ø ÓÒ׸ Ø Ð
Ò× Ö ÒØ Ö × Ô ÖÔ ØÙ Ð



´ ÓÖ Ø ÙÖ Ø ÓÒ Ó Ø ÔÔÐ
Ð
ÓÔÝÖ Ø Ò Ø ÏÓÖ µº ÆÓØÛ Ø ×Ø Ò Ò Ø ÓÚ ¸



Ä
Ò×ÓÖ Ö × ÖÚ × Ø Ö Ø ØÓ Ö Ð × Ø ÏÓÖ ÙÒ Ö Ö ÒØ Ð
Ò× Ø ÖÑ× ÓÖ ØÓ ×ØÓÔ



×ØÖ ÙØ Ò Ø ÏÓÖ Ø ÒÝ Ø Ñ ÔÖÓÚ ¸ ÓÛ Ú Ö Ø Ø ÒÝ ×Ù
Ð
Ø ÓÒ Û ÐÐ ÒÓØ × ÖÚ



ØÓ Û Ø Ö Û Ø × Ä
Ò× ´ÓÖ ÒÝ ÓØ Ö Ð
Ò× Ø Ø × Ò¸ ÓÖ × Ö ÕÙ Ö ØÓ ¸ Ö ÒØ



ÙÒ Ö Ø Ø ÖÑ× Ó Ø × Ä
Ò× µ¸ Ò Ø × Ä
Ò× Û ÐÐ
ÓÒØ ÒÙ Ò ÙÐÐ ÓÖ
Ò
Ø



ÙÒÐ ×× Ø ÖÑ Ò Ø × ×Ø Ø ÓÚ º



º Å ×
ÐÐ Ò ÓÙ×



½º
Ø Ñ ÓÙ ×ØÖ ÙØ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖÑ Ø ÏÓÖ ÓÖ ÓÐÐ
Ø Ú



ÏÓÖ ¸ Ø Ä
Ò×ÓÖ Ó Ö× ØÓ Ø Ö
Ô ÒØ Ð
Ò× ØÓ Ø ÏÓÖ ÓÒ Ø × Ñ Ø ÖÑ× Ò




ÓÒ Ø ÓÒ× × Ø Ð
Ò× Ö ÒØ ØÓ ÓÙ ÙÒ Ö Ø × Ä
Ò× º



¾º
Ø Ñ ÓÙ ×ØÖ ÙØ ÓÖ ÔÙ Ð
ÐÝ Ø ÐÐÝ Ô Ö ÓÖÑ Ö Ú Ø Ú ÏÓÖ ¸ Ä
Ò×ÓÖ



Ó Ö× ØÓ Ø Ö
Ô ÒØ Ð
Ò× ØÓ Ø ÓÖ Ò Ð ÏÓÖ ÓÒ Ø × Ñ Ø ÖÑ× Ò
ÓÒ Ø ÓÒ× ×



Ø Ð
Ò× Ö ÒØ ØÓ ÓÙ ÙÒ Ö Ø × Ä
Ò× º



¿º Á ÒÝ ÔÖÓÚ × ÓÒ Ó Ø × Ä
Ò× × ÒÚ Ð ÓÖ ÙÒ Ò ÓÖ
Ð ÙÒ Ö ÔÔÐ
Ð Ð Û¸



Ø × ÐÐ ÒÓØ
Ø Ø Ú Ð ØÝ ÓÖ Ò ÓÖ
Ð ØÝ Ó Ø Ö Ñ Ò Ö Ó Ø Ø ÖÑ× Ó Ø × Ä ¹




Ò× ¸ Ò Û Ø ÓÙØ ÙÖØ Ö
Ø ÓÒ Ý Ø Ô ÖØ × ØÓ Ø × Ö Ñ Òظ ×Ù
ÔÖÓÚ × ÓÒ × ÐÐ



Ö ÓÖÑ ØÓ Ø Ñ Ò ÑÙÑ ÜØ ÒØ Ò
×× ÖÝ ØÓ Ñ ×Ù
ÔÖÓÚ × ÓÒ Ú Ð Ò Ò ÓÖ
Ð º



º ÆÓ Ø ÖÑ ÓÖ ÔÖÓÚ × ÓÒ Ó Ø × Ä
Ò× × ÐÐ Ñ Û Ú Ò ÒÓ Ö

ÓÒ× ÒØ



ØÓ ÙÒÐ ×× ×Ù
Û Ú Ö ÓÖ
ÓÒ× ÒØ × ÐÐ Ò ÛÖ Ø Ò Ò × Ò Ý Ø Ô ÖØÝ ØÓ
Ö



Û Ø ×Ù
Û Ú Ö ÓÖ
ÓÒ× Òغ



º Ì × Ä
Ò×
ÓÒ×Ø ØÙØ × Ø ÒØ Ö Ö Ñ ÒØ ØÛ Ò Ø Ô ÖØ × Û Ø Ö ×Ô
Ø ØÓ



Ø ÏÓÖ Ð
Ò× Ö º Ì Ö Ö ÒÓ ÙÒ Ö×Ø Ò Ò ×¸ Ö Ñ ÒØ× ÓÖ Ö ÔÖ × ÒØ Ø ÓÒ× Û Ø



Ö ×Ô
Ø ØÓ Ø ÏÓÖ ÒÓØ ×Ô
Ö º Ä
Ò×ÓÖ × ÐÐ ÒÓØ ÓÙÒ Ý ÒÝ Ø ÓÒ Ð

¾º Ê ÌÁÎ ÇÅÅÇÆË ¾ ½







ÔÖÓÚ × ÓÒ× Ø Ø Ñ Ý ÔÔ Ö Ò ÒÝ
ÓÑÑÙÒ
Ø ÓÒ ÖÓÑ ÓÙº Ì × Ä
Ò× Ñ Ý ÒÓØ



ÑÓ Û Ø ÓÙØ Ø ÑÙØÙ Ð ÛÖ ØØ Ò Ö Ñ ÒØ Ó Ø Ä
Ò×ÓÖ Ò ÓÙº



Ö Ø Ú ÓÑÑÓÒ× × ÒÓØ Ô ÖØÝ ØÓ Ø × Ä
Ò× ¸ Ò Ñ × ÒÓ Û ÖÖ ÒØÝ Û Ø×Ó Ú Ö Ò




ÓÒÒ
Ø ÓÒ Û Ø Ø ÏÓÖ º Ö Ø Ú ÓÑÑÓÒ× Û ÐÐ ÒÓØ Ð Ð ØÓ ÓÙ ÓÖ ÒÝ Ô ÖØÝ ÓÒ ÒÝ



Ð Ð Ø ÓÖÝ ÓÖ ÒÝ Ñ × Û Ø×Ó Ú Ö¸ Ò
ÐÙ Ò Û Ø ÓÙØ Ð Ñ Ø Ø ÓÒ ÒÝ Ò Ö Ð¸ ×Ô
и



Ò
ÒØ Ð ÓÖ
ÓÒ× ÕÙ ÒØ Ð Ñ × Ö × Ò Ò
ÓÒÒ
Ø ÓÒ ØÓ Ø × Ð
Ò× º ÆÓØÛ Ø ×Ø Ò Ò



Ø ÓÖ Ó Ò ØÛÓ ´¾µ × ÒØ Ò
׸ Ö Ø Ú ÓÑÑÓÒ× × ÜÔÖ ××ÐÝ ÒØ Ø× Ð × Ø



Ä
Ò×ÓÖ Ö ÙÒ Ö¸ Ø × ÐÐ Ú ÐÐ Ö Ø× Ò Ó Ð Ø ÓÒ× Ó Ä
Ò×ÓÖº



Ü
ÔØ ÓÖ Ø Ð Ñ Ø ÔÙÖÔÓ× Ó Ò
Ø Ò ØÓ Ø ÔÙ Ð
Ø Ø Ø ÏÓÖ × Ð
Ò×



ÙÒ Ö Ø Èĸ Ò Ø Ö Ô ÖØÝ Û ÐÐ Ù× Ø ØÖ Ñ Ö Ö Ø Ú ÓÑÑÓÒ× ÓÖ ÒÝ Ö Ð Ø



ØÖ Ñ Ö ÓÖ ÐÓ Ó Ó Ö Ø Ú ÓÑÑÓÒ× Û Ø ÓÙØ Ø ÔÖ ÓÖ ÛÖ ØØ Ò
ÓÒ× ÒØ Ó Ö Ø Ú



ÓÑÑÓÒ׺ ÒÝ Ô ÖÑ ØØ Ù× Û ÐÐ Ò
ÓÑÔÐ Ò
Û Ø Ö Ø Ú ÓÑÑÓÒ׳ Ø Ò¹
ÙÖÖ ÒØ



ØÖ Ñ Ö Ù× Ù Ð Ò ×¸ ×Ñ Ý ÔÙ Ð × ÓÒ Ø× Û × Ø ÓÖ ÓØ ÖÛ × Ñ Ú Ð Ð



ÙÔÓÒ Ö ÕÙ ×Ø ÖÓÑ Ø Ñ ØÓ Ø Ñ º



Ö Ø Ú ÓÑÑÓÒ× Ñ Ý
ÓÒØ
Ø Ø ØØÔ »»
Ö Ø Ú
ÓÑÑÓÒ׺ÓÖ »º

À ÈÌ Ê ¾







Ì ØØ




Ì × ÓÐ × Ñ Ø Ö Ð Ø Ø × ÒÓØ Ö ÐÐÝ Ö Ý ØÓ Ò
ÓÖÔÓÖ Ø ÒØÓ Ø Ñ Ò Ó Ý¸



ÙØ Ø Ø Á ÓÒ³Ø Û ÒØ ØÓ ÐÓ× º ×
ÐÐݸ ÒÓÖ Ø¸ ÙÒÐ ×× ÝÓÙ³ Ð ØÓ ÐÔ Ø Ø Ö Ý ÓÖ



Ò
ÐÙ× ÓÒº









½º ÀÙÖ Ð ÑÓ Ð×

Ê ØÙÖÒ Ò ØÓ Ø ÈÓ ××ÓÒ ÑÓ Ð¸ Ð Ø× ÐÓÓ Ø
ØÙ Ð Ò ØØ
ÓÙÒØ ÔÖÓ Ð Ø ×º




ØÙ Ð Ö Ð Ø Ú Ö ÕÙ Ò
× Ö f (y = j) = i 1(yi = j)/n Ò ØØ Ö ÕÙ Ò
× Ö

ˆ

f (y = j) = n ˆ

i=1 fY (j|xi , θ)/n Ï × Ø Ø ÓÖ Ø Ç Î Ñ ×ÙÖ ¸ Ø Ö Ö Ñ ÒÝ ÑÓÖ









Ì Ð ½º
ØÙ Ð Ò ÈÓ ××ÓÒ ØØ Ö ÕÙ Ò
×





ÓÙÒØ Ç Î ÊÎ



ÓÙÒØ
ØÙ Ð ØØ
ØÙ Ð ØØ



¼ ¼º¿¾ ¼º¼ ¼º ¼º ¿

½ ¼º½ ¼º½ ¼º½¼ ¼º½

¾ ¼º½½ ¼º½ ¼º¼¾ ¼º¼¾

¿ ¼º½¼ ¼º½ ¼º¼¼ ¼º¼¼¾

¼º¼ ¾ ¼º½ ¼º¼¼¾ ¼º¼¼¼¾

¼º¼¿¾ ¼º½¼ ¼ ¾º ¹










ØÙ Ð Þ ÖÓ× Ø Ò ÔÖ
Ø º ÓÖ Êθ Ø Ö Ö ×ÓÑ Û Ø ÑÓÖ
ØÙ Ð Þ ÖÓ× Ø Ò ØØ ¸



ÙØ Ø Ö Ò
× ÒÓØ ØÓÓ ÑÔÓÖØ Òغ



Ï Ý Ñ Ø Ç Î ÒÓØ Ø Ø Þ ÖÓ× Û ÐÐ Ï Ø Ô ÓÔÐ Ñ Ø
× ÓÒ ØÓ
ÓÒØ
Ø



Ø Ó
ØÓÖ ÓÖ Ö×Ø Ú × Ø¸ Ø Ý Ö ×
¸Ø ÒØ Ó
ØÓÖ
× ÓÒ Û Ø Ö ÓÖ ÒÓØ ÓÐÐÓÛ¹ÙÔ



Ú × Ø× Ö Ò º Ì × × ÔÖ Ò
Ô Ð» ÒØ ØÝÔ × ØÙ Ø ÓÒ¸ Û Ö Ø ØÓØ Ð ÒÙÑ Ö Ó Ú × Ø×



Ô Ò × ÙÔÓÒ Ø
× ÓÒ Ó ÓØ Ø Ô Ø ÒØ Ò Ø Ó
ØÓÖº Ë Ò
Ö ÒØ Ô Ö Ñ Ø Ö×



Ñ Ý ÓÚ ÖÒ Ø ØÛÓ
× ÓÒ¹Ñ Ö×
Ó
׸ Û Ñ Ø ÜÔ
Ø Ø Ø Ö ÒØ Ô Ö Ñ Ø Ö×



ÓÚ ÖÒ Ø ÔÖÓ Ð ØÝ Ó Þ ÖÓ× Ú Ö×Ù× Ø ÓØ Ö
ÓÙÒØ׺ Ä Ø λp Ø Ô Ö Ñ Ø Ö× Ó Ø



Ô Ø ÒØ³× Ñ Ò ÓÖ Ú × Ø׸ Ò Ð Ø λd Ø Ô Ö ÑØ Ö Ó Ø Ó
ØÓÖ³× Ñ Ò ÓÖ Ú × Ø׺



Ì Ô Ø ÒØ Û ÐÐ Ò Ø Ø Ú × Ø×

ÓÖ Ò ØÓ ×
Ö Ø
Ó
ÑÓ Ð¸ ÓÖ Ü ÑÔÐ ¸ ÐÓ Ø



ÑÓ Ð









Pr(Y = 0) = fY (0, λp ) = 1 − 1/ [1 + exp(−λp )]

Pr(Y > 0) = 1/ [1 + exp(−λp )] ,



Ì ÓÚ ÔÖÓ Ð Ø × Ö Ù× ØÓ ×Ø Ñ Ø Ø Ò ÖÝ ¼»½ ÙÖ Ð ÔÖÓ
×׺ Ì Ò¸ ÓÖ



Ø Ó × ÖÚ Ø ÓÒ× Û Ö Ú × Ø× Ö ÔÓ× Ø Ú ¸ ØÖÙÒ
Ø ÈÓ ××ÓÒ Ò× ØÝ × ×Ø Ñ Ø º Ì ×



¾ ¾

½º ÀÍÊ Ä ÅÇ ÄË ¾ ¿







Ò× ØÝ ×



fY (y, λd )

fY (y, λd |y > 0) =

Pr(y > 0)

fY (y, λd )

=

1 − exp(−λd )

× Ò


ÓÖ Ò ØÓ Ø ÈÓ ××ÓÒ ÑÓ Ð Û Ø Ø Ó
ØÓÖ³× Ô Ö Ñ Ø Ö׸



exp(−λd )λ0

d

Pr(y = 0) = .

0!

Ë Ò
Ø ÙÖ Ð Ò ØÖÙÒ
Ø
ÓÑÔÓÒ ÒØ× Ó Ø ÓÚ Ö ÐÐ Ò× ØÝ ÓÖ Y × Ö ÒÓ Ô Ö Ñ Ø Ö׸



Ø Ý Ñ Ý ×Ø Ñ Ø × Ô Ö Ø Ðݸ Û
×
ÓÑÔÙØ Ø ÓÒ ÐÐÝ ÑÓÖ
ÒØ Ø Ò ×Ø Ñ Ø Ò



Ø ÓÚ Ö ÐÐ ÑÓ Ðº ´Ê
ÐÐ Ø Ø Ø Ë Ð ÓÖ Ø Ñ¸ ÓÖ Ü ÑÔÐ ¸ Û ÐÐ Ú ØÓ ÒÚ ÖØ Ø



ÔÔÖÓÜ Ñ Ø À ×× Òº Ì
ÓÑÔÙØ Ø ÓÒ Ð ÓÚ Ö × Ó ÓÖ

2

Ö K Û Ö K × Ø ÒÙÑ Ö



Ó Ô Ö Ñ Ø Ö× ØÓ ×Ø Ñ Ø µ º Ì ÜÔ
Ø Ø ÓÒ Ó Y ×





E(Y |x) = Pr(Y > 0|x)E(Y |Y > 0, x)

1 λd

=

1 + exp(−λp ) 1 − exp(−λd )

½º ÀÍÊ Ä ÅÇ ÄË ¾







À Ö Ö ÙÖ Ð ÈÓ ××ÓÒ ×Ø Ñ Ø ÓÒ Ö ×ÙÐØ× ÓÖ Ç Î¸ Ó Ø Ò ÖÓÑ Ø × ×Ø Ñ Ø ÓÒ ÔÖÓ Ö Ñ



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Å ÈË Ø ¸ Ç Î

ÐÓ Ø Ö ×ÙÐØ×

ËØÖÓÒ
ÓÒÚ Ö Ò


Ç × ÖÚ Ø ÓÒ× ¼¼

ÙÒ
Ø ÓÒ Ú ÐÙ ¹¼º ¿

عËØ Ø×

Ô Ö Ñ× Ø´ÇÈ µ Ø´Ë Ò ºµ Ø´À ××µ


ÓÒ×Ø ÒØ ¹½º ¼¾ ¹¾º ¼ ¹¾º ¾ ¹¾º ¼

ÔÙ Ò× ½º¼ ½ ¿º¼ ¾¼ ¿º¼¼¾ ¿º¼¿

ÔÖ Ú Ò× ¼º ½º ¾ ½º ¾ ½º ½

× Ü ¼º ¿ ¼ ¿º¼ ¿ ¿º½ ¿º½¿

¼º¼½ ½ ¾º½ ¾º½ ¾º½ ¼

Ù
¼º¼¿ ¼ ½º¼ ¼º ½¼ ½º¼¾¾¾

Ò
¼º¼ ½º ¾º½ ¾ ½º ¼½

ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

ÓÒ× ×Ø ÒØ

¿ º

Ë
Û ÖØÞ

¿¾º

À ÒÒ Ò¹ÉÙ ÒÒ

½ º



¼¿º¿

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

½º ÀÍÊ Ä ÅÇ ÄË ¾







Ì Ö ×ÙÐØ× ÓÖ Ø ØÖÙÒ
Ø Ô ÖØ



¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Å ÈË Ø ¸ Ç Î

ØÔÓ ××ÓÒ Ö ×ÙÐØ×

ËØÖÓÒ
ÓÒÚ Ö Ò


Ç × ÖÚ Ø ÓÒ× ¼¼

ÙÒ
Ø ÓÒ Ú ÐÙ ¹¾º ¼ ¾

عËØ Ø×

Ô Ö Ñ× Ø´ÇÈ µ Ø´Ë Ò ºµ Ø´À ××µ


ÓÒ×Ø ÒØ ¼º ¾ º ¾ ½ ½º½ ¿º¾¿¾¿

ÔÙ Ò× ¼º¿½¼¼½ º ¼ ½º ¿ ¿º ½ ¿

ÔÖ Ú Ò× ¼º¼½ ¿ ¾ ¼º¾ ¿¿ ¼º½¼ ¿ ¼º½ ½½¾

× Ü ¼º½ ¼ ½¼º¾ ¿ ½º½ ¼ ¿º ¾

¼º¼½ ¿ ½ º½ ¿º ¾ ¾ º ½

Ù
¼º¼½ ¾ º¾½ ¼º ½º ¿ ¿

Ò
¹¼º¼¼ ¼½ ¹¾º¿½ ¹¼º¿ ¿¼ ¹¼º ¼

ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

ÓÒ× ×Ø ÒØ

¾ º

Ë
Û ÖØÞ

¾ º

À ÒÒ Ò¹ÉÙ ÒÒ

¾ ¾ º



¾ ½ º¾

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

½º ÀÍÊ Ä ÅÇ ÄË ¾







ØØ Ò
ØÙ Ð ÔÖÓ Ð Ø × ´Æ ¹ÁÁ Ø× Ö ÔÖÓÚ × Û Ðе Ö





Ì Ð ¾º
ØÙ Ð Ò ÀÙÖ Ð ÈÓ ××ÓÒ ØØ Ö ÕÙ Ò
×





ÓÙÒØ Ç Î ÊÎ



ÓÙÒØ
ØÙ Ð ØØ ÀÈ ØØ Æ ¹ÁÁ
ØÙ Ð ØØ ÀÈ ØØ Æ ¹ÁÁ



¼ ¼º¿¾ ¼º¿¾ ¼º¿ ¼º ¼º ¼º

½ ¼º½ ¼º¼¿ ¼º½ ¼º½¼ ¼º½¼ ¼º½¼

¾ ¼º½½ ¼º¼ ½ ¼º½½ ¼º¼¾ ¼º¼¾ ¼º¼¾

¿ ¼º½¼ ¼º½¼ ¼º¼ ¼º¼¼ ¼º¼¼ ¼º¼¼

¼º¼ ¾ ¼º½½ ¼º¼ ¼º¼¼¾ ¼º¼¼¾ ¼º¼¼¾

¼º¼¿¾ ¼º½¼ ¼º¼ ¼ ¼º¼¼¼ ¼º¼¼½







ÓÖ Ø ÀÙÖ Ð ÈÓ ××ÓÒ ÑÓ Ð׸ Ø ÊÎ Ø × Ú ÖÝ

ÙÖ Ø º Ì Ç Î Ø × ÒÓØ



×Ó ÓÓ º ÖÓ× Ö Ü
ظ ÙØ ½³× Ò ¾³× Ö ÙÒ Ö ×Ø Ñ Ø ¸ Ò Ö
ÓÙÒØ× Ö



ÓÚ Ö ×Ø Ñ Ø º ÓÖ Ø Æ ¹ÁÁ Ø׸ Ô Ö ÓÖÑ Ò
× Ø Ð ×Ø × ÓÓ × Ø ÙÖ Ð ÈÓ ××ÓÒ



ÑÓ Ð¸ Ò ÓÒ × ÓÙÐ Ö
ÐÐ Ø Ø Ñ ÒÝ Û Ö Ô Ö Ñ Ø Ö× Ö Ù× º ÀÙÖ Ð Ú Ö× ÓÒ Ó Ø



Ò Ø Ú ÒÓÑ Ð ÑÓ Ð Ö Ð×Ó Û ÐÝ Ù× º





½º½º Ò Ø Ñ ÜØÙÖ ÑÓ Ð׺ Ì ÓÐÐÓÛ Ò Ö Ö ×ÙÐØ× ÓÖ Ñ ÜØÙÖ Ó ¾Ò Ø Ú ¹



ÒÓÑ Ð ´Æ ¹Áµ ÑÓ Ð׸ ÓÖ Ø Ç Î Ø ¸Û
ÝÓÙ
Ò Ö ÔÐ
Ø Ù× Ò Ø × ×Ø Ñ Ø ÓÒ ÔÖÓ Ö Ñ

½º ÀÍÊ Ä ÅÇ ÄË ¾







¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Å ÈË Ø ¸ Ç Î

Ñ ÜÒ Ò Ö ×ÙÐØ×

ËØÖÓÒ
ÓÒÚ Ö Ò


Ç × ÖÚ Ø ÓÒ× ¼¼

ÙÒ
Ø ÓÒ Ú ÐÙ ¹¾º¾¿½¾

عËØ Ø×

Ô Ö Ñ× Ø´ÇÈ µ Ø´Ë Ò ºµ Ø´À ××µ


ÓÒ×Ø ÒØ ¼º ¾ ½º¿ ½ ½º¿¾¾ ½º ¿

ÔÙ Ò× ¹¼º¼ ¾½¿ ¹¼º¾¿½ ¹¼º½¿ ¼¾ ¹¼º½ ¾

ÔÖ Ú Ò× ¼º¼ ¿¿ ¼º ¼º¿¿¼ ¼º ¼

× Ü ¼º¿ ¾º ½¾½ ¾º¾½ ¾º ¾

¼º¼½ ¾º ½ ¿ ¾º ¾º ½ ½

Ù
¹¼º¼ ½ ¹½º ¼½¿ ¹½º ¼ ½ ¹½º ¼¿

Ò
¼º¼½ ¼ ¼º ¿ ¼º ¾ ¼º ¿¾ ½

ÐÒ ÐÔ ¼º ½ ¾º¿ ¾º¼¿ ¾º ¼¾


ÓÒ×Ø ÒØ ¹¿º ½¿¼ ¹½º ½¾ ¹½º ¿ ¹½º ½½

ÔÙ Ò× ¾º¿ ½º ¾ ¿º ¾º ½

ÔÖ Ú Ò× ¼º ¿½ ¼º ¿ ½º½¿ ¼º ¿¿

× Ü ¼º¿ ¼º ¼¼¿ ¼º ¼½ ¼º ½ ¾

¼º¼¾½ ¾ ½º½¿ ½º¿¼¿¾ ½º¿¿

Ù
¼º¾¾ ½ ¾º¼ ¾¾ ½º ¾ ¾º½ ¼

Ò
¼º¼½ ¾¾ ¼º¾¼ ¿ ¼º ¼ ¼º¿ ¿½¿

ÐÒ ÐÔ ¾º ½ º¾ º ¼¾ º ½ ¾

ÐÓ Ø ÒÚ Ñ Ü ¼º ½ ½º ¼ ½º ¾ ½º ¿

ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

ÓÒ× ×Ø ÒØ

¾¿ ¿º

Ë
Û ÖØÞ

¾¿¿ º

À ÒÒ Ò¹ÉÙ ÒÒ

¾¾ ¿º¿



¾¾ º¾

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÐØ Ñ Ø Ó ÓÖ Ñ Ü Ô Ö Ñ Ø Ö ×غ ÖÖº

Ñ Ü × Ñ Ü

¼º ¼¼ ¼º½¾¼ ¿





• Ì ±
ÓÒ Ò
ÒØ ÖÚ Ð ÓÖ Ø Ñ Ü Ô Ö Ñ Ø Ö × Ô Ö ÐÓÙ×ÐÝ
ÐÓ× ØÓ ½¸ Û




×Ù ×Ø× Ø Ø Ø Ö Ñ Ý Ö ÐÐÝ ÓÒÐÝ ÓÒ
ÓÑÔÓÒ ÒØ Ò× Øݸ Ö Ø Ö Ø Ò



Ñ ÜØÙÖ º Ò¸ Ø × × ÒÓØ Ø Û Ý ØÓ Ø ×Ø Ø × ¹ Ø × Ñ Ö ÐÝ ×Ù ×Ø Ú º



• Ù
Ø ÓÒ × ÒØ Ö ×Ø Ò º ÓÖ Ø ×Ù ÔÓÔÙÐ Ø ÓÒ Ø Ø × ÐØ Ý ¸ º º¸ Ø Ø Ñ ×



Ö Ð Ø Ú ÐÝ Û Ú × Ø׸ Ù
Ø ÓÒ × Ñ× ØÓ Ú ÔÓ× Ø Ú
Ø ÓÒ Ú × Ø׺ ÓÖ Ø



ÙÒ ÐØ Ý ÖÓÙÔ¸ Ù
Ø ÓÒ × Ò Ø Ú
Ø ÓÒ Ú × Ø׺ Ì ÓØ Ö Ö ×ÙÐØ× Ö



ÑÓÖ Ñ Ü º Ð Ö Ö × ÑÔÐ
ÓÙÐ ÐÔ
Ð Ö Ý Ø Ò ×º

½º ÀÍÊ Ä ÅÇ ÄË ¾







Ì ÓÐÐÓÛ Ò Ö Ö ×ÙÐØ× ÓÖ ¾
ÓÑÔÓÒ ÒØ
ÓÒ×ØÖ Ò Ñ ÜØÙÖ Ò Ø Ú ÒÓÑ Ð ÑÓ Ð



Û Ö ÐÐ Ø ×ÐÓÔ Ô Ö Ñ Ø Ö× Ò λj = exβj Ö Ø × Ñ
ÖÓ×× Ø ØÛÓ
ÓÑÔÓÒ ÒØ׺



Ì
ÓÒ×Ø ÒØ× Ò Ø ÓÚ Ö ×Ô Ö× ÓÒ Ô Ö Ñ Ø Ö× αj Ö ÐÐÓÛ ØÓ Ö ÓÖ Ø ØÛÓ




ÓÑÔÓÒ ÒØ׺

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾







¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

Å ÈË Ø ¸ Ç Î


Ñ ÜÒ Ò Ö ×ÙÐØ×

ËØÖÓÒ
ÓÒÚ Ö Ò


Ç × ÖÚ Ø ÓÒ× ¼¼

ÙÒ
Ø ÓÒ Ú ÐÙ ¹¾º¾ ½

عËØ Ø×

Ô Ö Ñ× Ø´ÇÈ µ Ø´Ë Ò ºµ Ø´À ××µ


ÓÒ×Ø ÒØ ¹¼º¿ ½ ¿ ¹¼º ¾¼¿ ¹¼º ½ ¹¼º ¿

ÔÙ Ò× ¼º ¿¾¼ ¾º ¾¼ ¾º ¼ ¾º ¼

ÔÖ Ú Ò× ¼º¾¼ ¿ ½º ¾ ½º¿½¼ ½º¿

× Ü ¼º¿ ½ ¿º½ ¿º ¾ ¿º ¿½

¼º¼½ ¾¾ ¿º½¾½¾ ¿º ¼ ¿º ¼ ¾

Ù
¼º¼½½ ¼º ¼º ¼¿ ¾ ¼º ¿¿½

Ò
¼º¼½ ¼ ¼º ¼ ¼º ¿½ ¼º ¿ ¼

ÐÒ ÐÔ ½º½ º ½ ¼ º¾ ¾ º ¾ ¿


ÓÒ×Ø ¾ ½º¾ ¾½ ¼º ¾ ¾º ¾½ ½º ¼ ¼

ÐÒ ÐÔ ¾ ¾º ½º ¿ º ½ º¾¾ ¿

ÐÓ Ø ÒÚ Ñ Ü ¾º ¼º ¼¼ ¿ ¿º ¾¾ ½º ¿



ÁÒ ÓÖÑ Ø ÓÒ Ö Ø Ö

ÓÒ× ×Ø ÒØ

¾¿¾¿º

Ë
Û ÖØÞ

¾¿½¾º

À ÒÒ Ò¹ÉÙ ÒÒ

¾¾ º¿



¾¾ º½

¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶¶

ÐØ Ñ Ø Ó ÓÖ Ñ Ü Ô Ö Ñ Ø Ö ×غ ÖÖº

Ñ Ü × Ñ Ü

¼º ¾¿¿ ¼º¼ ¿½

• ÆÓÛ Ø Ñ ÜØÙÖ Ô Ö Ñ Ø Ö × Ú Ò
ÐÓ× Ö ØÓ ½º



• Ì ×ÐÓÔ Ô Ö Ñ Ø Ö ×Ø Ñ Ø × Ö ÔÖ ØØÝ
ÐÓ× ØÓ Û Ø Û ÓØ Û Ø Ø Æ ¹Á



ÑÓ Ðº







¾º ÅÓ Ð× ÓÖ Ø Ñ × Ö × Ø

Ì × ×
Ø ÓÒ
Ò ÒÓÖ Ò Ø× ÔÖ × ÒØ ÓÖѺ ÂÙ×Ø Ð Ø Ò ØÓ ÓÖÑ × × ÓÖ
Óѹ



ÔÐ Ø ÓÒ ´ Ý ×ÓÑ ÓÒ Ð× µ Ø ×ÓÑ ÔÓ Òغ



À Ñ ÐØÓÒ¸ ÌÑ Ë Ö × Ò ÐÝ× × × ÓÓ Ö Ö Ò
ÓÖ Ø × ×
Ø ÓÒº Ì × × Ú ÖÝ



Ò
ÓÑÔÐ Ø Ò
ÓÒØÖ ÙØ ÓÒ× ÛÓÙÐ Ú ÖÝ Û Ð
ÓÑ º



ÍÔ ØÓ ÒÓÛ Û ³Ú
ÓÒ× Ö Ø Ú ÓÖ Ó Ø Ô Ò ÒØ Ú Ö Ð yt × ÙÒ
Ø ÓÒ



Ó ÓØ Ö Ú Ö xt . Ì × Ú Ö

Ð × Ð ×
Ò Ó
ÓÙÖ×
ÓÒØ Ò Ð Ô Ò ÒØ Ú Ö Ð ×¸



º º¸ xt = (wt , yt−1 , ..., yt−j ). ÈÙÖ Ø Ñ × Ö × Ñ Ø Ó ×
ÓÒ× Ö Ø Ú ÓÖ Ó yt ×



ÙÒ
Ø ÓÒ ÓÒÐÝ Ó Ø× ÓÛÒ Ð Ú Ð٠׸ ÙÒ
ÓÒ Ø ÓÒ Ð ÓÒ ÓØ Ö Ó × ÖÚ Ð Ú Ö Ð ×º ÇÒ

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾ ¼








Ò Ø Ò Ó Ø × × ÑÓ Ð Ò Ø Ú ÓÖ Ó yt Ø Ö Ñ Ö Ò Ð Þ Ò ÓÙØ ÐÐ ÓØ Ö Ú Ö Ð ×º



Ï Ð Ø³× ÒÓØ ÑÑ Ø ÐÝ
Ð Ö Û Ý ÑÓ Ð Ø Ø × ÓØ Ö ÜÔÐ Ò ØÓÖÝ Ú Ö Ð × × ÓÙÐ



Ñ Ö Ò Ð Þ ØÓ Ð Ò Ö Ò Ø Ô Ö Ñ Ø Ö× Ø Ñ × Ö × ÑÓ Ð¸ ÑÓ×Ø Ø Ñ × Ö × ÛÓÖ × ÓÒ



Û Ø Ð Ò Ö ÑÓ Ð׸ Ø ÓÙ ÒÓÒÐ Ò Ö Ø Ñ × Ö × × Ð×Ó Ð Ö Ò ÖÓÛ Ò Ð º Ï ³ÐÐ



×Ø
Û Ø Ð Ò Ö Ø Ñ × Ö × ÑÓ Ð׺





¾º½º ×

ÓÒ
ÔØ׺

Ò Ø ÓÒ ¿ ´ËØÓ
×Ø
ÔÖÓ
××µº ×ØÓ
×Ø
ÔÖÓ
×× × × ÕÙ Ò
Ó Ö Ò ÓÑ



Ú Ö Ð ×¸ Ò Ü Ý Ø Ñ





´ µ {Yt }∞

t=−∞



Ò Ø ÓÒ ´Ì Ñ × Ö ×µº Ø Ñ × Ö × × ÓÒ Ó × ÖÚ Ø ÓÒ Ó ×ØÓ
×Ø
ÔÖÓ
×׸



ÓÚ Ö ×Ô

ÒØ ÖÚ Ð





´ µ {yt }n

t=1



ËÓ Ø Ñ × Ö × × × ÑÔÐ Ó × Þ n ÖÓÑ ×ØÓ
×Ø
ÔÖÓ
×׺ ÁØ³× ÑÔÓÖØ ÒØ ØÓ Ô



Ò Ñ Ò Ø Ø
ÓÒ
ÔØÙ ÐÐݸ ÓÒ
ÓÙÐ Ö Û ÒÓØ Ö × ÑÔÐ ¸ Ò Ø Ø Ø Ú ÐÙ × ÛÓÙÐ



Ö Òغ



Ò Ø ÓÒ ´ ÙØÓ
ÓÚ Ö Ò
µº Ì j th ÙØÓ
ÓÚ Ö Ò
Ó ×ØÓ
×Ø
ÔÖÓ
×× ×





´ µ γjt = E(yt − µt )(yt−j − µt−j )



Û Ö µt = E (yt ) .

Ò Ø ÓÒ ´ ÓÚ Ö Ò
´Û µ ×Ø Ø ÓÒ Ö Øݵº ×ØÓ
×Ø
ÔÖÓ
×× ×
ÓÚ Ö Ò




×Ø Ø ÓÒ ÖÝ Ø × Ø Ñ
ÓÒ×Ø ÒØ Ñ Ò Ò ÙØÓ
ÓÚ Ö Ò
× Ó ÐÐ ÓÖ Ö×





µt = µ, ∀t

γjt = γj , ∀t

× Û ³Ú × Ò¸ Ø × ÑÔÐ × Ø Ø γj = γ−j : Ø ÙØÓ
ÓÚ Ö Ò
× Ô Ò ÓÒÐÝ ÓÒ Ø



ÒØ ÖÚ Ð ØÛ Ò Ó × ÖÚ Ø ÓÒ׸ ÙØ ÒÓØ Ø Ø Ñ Ó Ø Ó × ÖÚ Ø ÓÒ׺



Ò Ø ÓÒ ´ËØÖÓÒ ×Ø Ø ÓÒ Ö Øݵº ×ØÓ
×Ø
ÔÖÓ
×× × ×ØÖÓÒ ÐÝ ×Ø Ø ÓÒ ÖÝ Ø



Ó ÒØ ×ØÖ ÙØ ÓÒ Ó Ò Ö ØÖ ÖÝ
ÓÐÐ
Ø ÓÒ Ó Ø {Yt } Ó ×Ò³Ø Ô Ò ÓÒ t.

Ë Ò
ÑÓÑ ÒØ× Ö Ø ÖÑ Ò Ý Ø ×ØÖ ÙØ ÓÒ¸ ×ØÖÓÒ ×Ø Ø ÓÒ Ö ØÝ⇒Û ×Ø Ø ÓÒ¹



Ö Øݺ



Ï Ø × Ø Ñ Ò Ó Yt ? Ì Ø Ñ × Ö × × ÓÒ × ÑÔÐ ÖÓÑ Ø ×ØÓ
×Ø
ÔÖÓ
×׺



ÇÒ
ÓÙÐ Ø Ò Ó M Ö Ô Ø × ÑÔÐ × ÖÓÑ Ø ×ØÓ
º ÔÖÓ
º¸

m

º º¸ {yt } Ý ÄÄƸ Û



ÛÓÙÐ ÜÔ
Ø Ø Ø

M

1 p

lim ytm → E(Yt )

M →∞ M

m=1

Ì ÔÖÓ Ð Ñ ×¸ Û Ú ÓÒÐÝ ÓÒ × ÑÔÐ ØÓ ÛÓÖ Û Ø ¸ × Ò
Û
Ò³Ø Ó
Ò Ø Ñ



Ò
ÓÐÐ
Ø ÒÓØ Öº ÀÓÛ
Ò E(Yt ) ×Ø Ñ Ø Ø Ò ÁØ ØÙÖÒ× ÓÙØ Ø Ø Ö Ó
ØÝ × Ø



Ò ÔÖÓÔ ÖØݺ



Ò Ø ÓÒ ´ Ö Ó
Øݵº ×Ø Ø ÓÒ ÖÝ ×ØÓ
×Ø
ÔÖÓ
×× × Ö Ó
´ ÓÖ Ø Ñ Òµ



Ø Ø Ñ Ú Ö
ÓÒÚ Ö × ØÓ Ø Ñ Ò

n

1 p

´ µ yt → µ

n t=1

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾ ½







×Ù
ÒØ
ÓÒ Ø ÓÒ ÓÖ Ö Ó
ØÝ × Ø ØØ ÙØÓ
ÓÚ Ö Ò
× ×ÓÐÙØ ÐÝ ×ÙÑÑ Ð

∞

|γj | q



Ì Ö ÓÖ Ò Å ´Õµ ÔÖÓ
×× × Ò
×× Ö ÐÝ
ÓÚ Ö Ò
×Ø Ø ÓÒ ÖÝ Ò Ö Ó
¸ × ÐÓÒ × σ2

Ò ÐÐ Ó Ø θj Ö Ò Ø º



Ê´Ôµ ÔÖÓ
×× ×º Ò Ê´Ôµ ÔÖÓ
××
Ò Ö ÔÖ × ÒØ ×





yt = c + φ1 yt−1 + φ2 yt−2 + · · · + φp yt−p + εt



Ì ÝÒ Ñ
Ú ÓÖ Ó Ò Ê´Ôµ ÔÖÓ
××
Ò ×ØÙ Ý ÛÖ Ø Ò Ø × pth ÓÖ Ö Ö¹



Ò
ÕÙ Ø ÓÒ × Ú
ØÓÖ Ö×Ø ÓÖ Ö Ö Ò
ÕÙ Ø ÓÒ

 

  φ1 φ2  ··· φp    

yt c   yt−1 εt

    1 0 0 0    

 yt−1   0    yt−2   0 

 º  =  º  0 1 ºº  + º 

 º   º  0 º 0  º   º 

 º   º  º

 º ºº ºº ºº

 º

 º   º 

0··· 

0 

º º º º

yt−p+1 yt−p 0

0 ··· 0 1 0

ÓÖ



Yt = C + F Yt−1 + Et

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾ ¾







Ï Ø Ø ×¸ Û
Ò Ö
ÙÖ× Ú ÐÝ ÛÓÖ ÓÖÛ Ö Ò Ø Ñ





Yt+1 = C + F Yt + Et+1

= C + F (C + F Yt−1 + Et ) + Et+1

= C + F C + F 2 Yt−1 + F Et + Et+1



Ò





Yt+2 = C + F Yt+1 + Et+2

= C + F C + F C + F 2 Yt−1 + F Et + Et+1 + Et+2

= C + F C + F 2 C + F 3 Yt−1 + F 2 Et + F Et+1 + Et+2



ÓÖ Ò Ò Ö Ð





Yt+j = C + F C + · · · + F j C + F j+1 Yt−1 + F j Et + F j−1 Et+1 + · · · + F Et+j−1 + Et+j



ÓÒ× Ö Ø ÑÔ
Ø Ó × Ó
Ò Ô Ö Ó t ÓÒ yt+j . Ì × × × ÑÔÐÝ



∂Yt+j j

′ = F(1,1)

∂Et (1,1)

Á Ø ×Ý×Ø Ñ × ØÓ ×Ø Ø ÓÒ Öݸ Ø Ò × Û ÑÓÚ ÓÖÛ Ö Ò Ø Ñ Ø × ÑÔ
Ø ÑÙ×Ø Ó º



ÇØ ÖÛ × × Ó

Ù× × Ô ÖÑ Ò ÒØ
Ò Ò Ø Ñ Ò Ó yt . Ì Ö ÓÖ ¸ ×Ø Ø ÓÒ Ö ØÝ



Ö ÕÙ Ö × Ø Ø

j

lim F(1,1) = 0

j→∞

• Ë Ú Ø × Ö ×ÙÐظ Û ³ÐÐ Ò Ø Ò Ñ ÒÙØ º









ÓÒ× Ö Ø ÒÚ ÐÙ × Ó Ø Ñ ØÖ Ü F. Ì × Ö Ø ÓÖ λ ×Ù
Ø Ø





|F − λIP | = 0



Ì Ø ÖÑ Ò ÒØ Ö
Ò ÜÔÖ ×× × ÔÓÐÝÒÓÑ Ðº ÓÖ Ü ÑÔÐ ¸ ÓÖ p = 1, Ø Ñ ØÖ Ü



F × × ÑÔÐÝ



F = φ1

×Ó



|φ1 − λ| = 0


Ò ÛÖ ØØ Ò ×



φ1 − λ = 0

Ï Ò p = 2, Ø Ñ ØÖ Ü F ×



φ1 φ2

F =

1 0

×Ó

φ1 − λ φ2

F − λIP =

1 −λ

Ò



|F − λIP | = λ2 − λφ1 − φ2

ËÓ Ø ÒÚ ÐÙ × Ö Ø ÖÓÓØ× Ó Ø ÔÓÐÝÒÓÑ Ð





λ2 − λφ1 − φ2

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾ ¿







Û

Ò ÓÙÒ Ù× Ò Ø ÕÙ Ö Ø
ÕÙ Ø ÓÒº Ì × Ò Ö Ð Þ ×º ÓÖ pth ÓÖ Ö Ê



ÔÖÓ
×׸ Ø ÒÚ ÐÙ × Ö Ø ÖÓÓØ× Ó





λp − λp−1 φ1 − λp−2 φ2 − · · · − λφp−1 − φp = 0



ËÙÔÔÓ× Ò Ø Ø ÐÐ Ó Ø ÖÓÓØ× Ó Ø × ÔÓÐÝÒÓÑ Ð Ö ×Ø Ò
ظ Ø Ò Ø Ñ ØÖ Ü F
Ò




ØÓÖ ×



F = T ΛT −1

Û Ö T × Ø Ñ ØÖ Ü Û
× × Ø×
ÓÐÙÑÒ× Ø ÒÚ
ØÓÖ× Ó F, Ò Λ × ÓÒ Ð



Ñ ØÖ Ü Û Ø Ø ÒÚ ÐÙ × ÓÒ Ø Ñ Ò ÓÒ Ðº Í× Ò Ø ×
ÓÑÔÓ× Ø ÓÒ¸ Û
Ò ÛÖ Ø





F j = T ΛT −1 T ΛT −1 · · · T ΛT −1



Û Ö T ΛT −1 × Ö Ô Ø j Ø Ñ ×º Ì × Ú ×





F j = T Λj T −1



Ò  

λj 0

1 0

 j 

 0 λ2 

j 

Λ = 

ºº 

 º 

0 λj

p

ËÙÔÔÓ× Ò Ø Ø Ø λi i = 1, 2, ..., p Ö ÐÐ Ö Ð Ú ÐÙ ¸ Ø ×
Ð Ö Ø Ø



j

lim F(1,1) = 0

j→∞



Ö ÕÙ Ö × Ø Ø



|λi | p
Ò ×ÓÐÚ ÓÖ Ö
ÙÖ× Ú Ðݺ



ÁÒÚ ÖØ Ð ØÝ Ó Å ´Õµ ÔÖÓ
×׺ Ò Å ´Õµ
Ò ÛÖ ØØ Ò ×





yt − µ = (1 + θ1 L + ... + θq Lq )εt



× ÓÖ ¸ Ø ÔÓÐÝÒÓÑ Ð ÓÒ Ø ÊÀË
Ò
ØÓÖ ×





(1 + θ1 L + ... + θq Lq ) = (1 − η1 L)(1 − η2 L)...(1 − ηq L)



Ò
Ó Ø (1 − ηi L)
Ò ÒÚ ÖØ × ÐÓÒ × |ηi | < 1. Á Ø × × Ø
× ¸ Ø Ò Û




Ò ÛÖ Ø



(1 + θ1 L + ... + θq Lq )−1 (yt − µ) = εt

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾







Û Ö



(1 + θ1 L + ... + θq Lq )−1

Û ÐÐ Ò Ò Ò Ø ¹ÓÖ Ö ÔÓÐÝÒÓÑ Ð Ò L, ×Ó Û Ø

∞

−δj Lj (yt−j − µ) = εt

j=0



Û Ø δ0 = −1, ÓÖ





(yt − µ) − δ1 (yt−1 − µ) − δ2 (yt−2 − µ) + ... = εt



ÓÖ



yt = c + δ1 yt−1 + δ2 yt−2 + ... + εt

Û Ö



c = µ + δ1 µ + δ2 µ + ...

ËÓ Û × Ø Ø Ò Å ´Õµ × Ò Ò Ò Ø Ê Ö ÔÖ × ÒØ Ø ÓÒ¸ × ÐÓÒ × Ø |ηi | < 1,

i = 1, 2, ..., q.







• ÁØ ØÙÖÒ× ÓÙØ Ø Ø ÓÒ
Ò ÐÛ Ý× Ñ Ò ÔÙÐ Ø Ø Ô Ö Ñ Ø Ö× Ó Ò Å ´Õµ ÔÖÓ
××



ØÓ Ò Ò ÒÚ ÖØ Ð Ö ÔÖ × ÒØ Ø ÓÒº ÓÖ Ü ÑÔÐ ¸ Ø ØÛÓ Å ´½µ ÔÖÓ
×× ×





yt − µ = (1 − θL)εt



Ò

∗

yt − µ = (1 − θ −1 L)ε∗

t



Ú Ü
ØÐÝ Ø × Ñ ÑÓÑ ÒØ×





σε ∗ = σε θ 2

2 2





ÓÖ Ü ÑÔÐ ¸ Û ³Ú × Ò Ø Ø





γ0 = σ 2 (1 + θ 2 ).



Ú Ò Ø ÓÚ Ö Ð Ø ÓÒ× Ô× ÑÓÒ ×Ø Ø Ô Ö Ñ Ø Ö׸



∗ 2

γ0 = σε θ 2 (1 + θ −2 ) = σ 2 (1 + θ 2 )



×Ó Ø Ú Ö Ò
× Ö Ø × Ñ º ÁØ ØÙÖÒ× ÓÙØ Ø Ø ÐÐ Ø ÙØÓ
ÓÚ Ö Ò
× Û ÐÐ Ø



× Ñ ¸ × × × ÐÝ

º Ì ×Ñ Ò× Ø ØØ ØÛÓ Å ÔÖÓ
×× × Ö Ó × ÖÚ Ø ÓÒ¹

ÐÐÝ ÕÙ Ú Ð Òغ × ÓÖ ¸ Ø³× ÑÔÓ×× Ð ØÓ ×Ø Ò Ù × ØÛ Ò Ó × ÖÚ Ø ÓÒ ÐÐÝ



ÕÙ Ú Ð ÒØ ÔÖÓ
×× × ÓÒ Ø × × Ó Ø º



• ÓÖ Ú Ò Å ´Õµ ÔÖÓ
×׸ Ø³× ÐÛ Ý× ÔÓ×× Ð ØÓ Ñ Ò ÔÙÐ Ø Ø Ô Ö Ñ Ø Ö× ØÓ



Ò Ò ÒÚ ÖØ Ð Ö ÔÖ × ÒØ Ø ÓÒ ´Û
× ÙÒ ÕÙ µº



• ÁØ³× ÑÔÓÖØ ÒØ ØÓ Ò Ò ÒÚ ÖØ Ð Ö ÔÖ × ÒØ Ø ÓÒ¸ × Ò
Ø³× Ø ÓÒÐÝ Ö ÔÖ × ÒØ ¹



Ø ÓÒ Ø Ø ÐÐÓÛ× ÓÒ ØÓ Ö ÔÖ × ÒØ εt ×

′

ÙÒ
Ø ÓÒ Ó Ô ×Ø y s. Ì ÓØ Ö Ö ÔÖ × Ò¹



Ø Ø ÓÒ× ÜÔÖ ××



• Ï Ý × ÒÚ ÖØ Ð ØÝ ÑÔÓÖØ ÒØ Ì ÑÓ×Ø ÑÔÓÖØ ÒØ Ö ×ÓÒ × Ø Ø Ø ÔÖÓÚ ×



Ù×Ø
Ø ÓÒ ÓÖ Ø Ù× Ó Ô Ö× ÑÓÒ ÓÙ× ÑÓ Ð׺ Ë Ò
Ò Ê´½µ ÔÖÓ
×× × Ò



Å ´∞) Ö ÔÖ × ÒØ Ø ÓÒ¸ ÓÒ
Ò Ö Ú Ö× Ø Ö ÙÑ ÒØ Ò ÒÓØ Ø Ø Ø Ð ×Ø ×ÓÑ



Å ´∞) ÔÖÓ
×× × Ú Ò Ê´½µ Ö ÔÖ × ÒØ Ø ÓÒº Ø Ø Ø Ñ Ó ×Ø Ñ Ø ÓÒ¸ س×



ÐÓØ × Ö ØÓ ×Ø Ñ Ø Ø × Ò Ð Ê´½µ
Ó
ÒØ Ö Ø Ö Ø Ò Ø Ò Ò Ø ÒÙÑ Ö



Ó
Ó
ÒØ× ××Ó
Ø Û Ø Ø Å Ö ÔÖ × ÒØ Ø ÓÒº

¾º ÅÇ ÄË ÇÊ ÌÁÅ Ë ÊÁ Ë Ì ¾







• Ì × × Ø Ö ×ÓÒ Ø Ø ÊÅ ÑÓ Ð× Ö ÔÓÔÙÐ Öº ÓÑ Ò Ò ÐÓÛ¹ÓÖ Ö Ê Ò



Å ÑÓ Ð×
Ò Ù×Ù ÐÐÝ Ó Ö × Ø ×
ØÓÖÝ Ö ÔÖ × ÒØ Ø ÓÒ Ó ÙÒ Ú Ö Ø Ø Ñ × Ö ×



Ø Û Ø Ö ×ÓÒ Ð ÒÙÑ Ö Ó Ô Ö Ñ Ø Ö׺



• ËØ Ø ÓÒ Ö ØÝ Ò ÒÚ ÖØ Ð ØÝ Ó ÊÅ ÑÓ Ð× × × Ñ Ð Ö ØÓ Û Ø Û ³Ú × Ò ¹ Û



ÛÓÒ³Ø Ó ÒØÓ Ø Ø Ð׺ Ä Û × ¸
Ð
ÙÐ Ø Ò ÑÓÑ ÒØ× × × Ñ Ð Öº





Ü Ö
× ½º Ð
ÙÐ Ø Ø ÙØÓ
ÓÚ Ö Ò
× Ó Ò ÊÅ ´½¸½µ ÑÓ Ð (1 + φL)yt =

c + (1 + θL)ǫt

ÐÓ Ö Ô Ý



½℄ Ú ×ÓÒ¸ ʺ Ò Âº º Å
à ÒÒÓÒ ´½ ¿µ ×Ø Ñ Ø ÓÒ Ò ÁÒ Ö Ò
Ò
ÓÒÓÑ ØÖ
׸ ÇÜ ÓÖ ÍÒ Úº



ÈÖ ×׺



¾℄ Ú ×ÓÒ¸ ʺ Ò º Å
à ÒÒÓÒ ´¾¼¼ µ
ÓÒÓÑ ØÖ
Ì ÓÖÝ Ò Å Ø Ó ×¸ ÇÜ ÓÖ ÍÒ Úº ÈÖ ×׺

º



¿℄ ÐÐ Òظ ºÊº ´½ ÆÓÒÐ Ò Ö ËØ Ø ×Ø
Ð ÅÓ Ð׸ Ï Ð Ýº

µ



℄ ÐÐ Òظ ºÊº ´½ µ Ò ÁÒØÖÓ Ù
Ø ÓÒ ØÓ
ÓÒÓÑ ØÖ
Ì ÓÖݸ ÈÖ Ò
ØÓÒ ÍÒ Úº ÈÖ ×׺

℄ À Ñ ÐØÓÒ¸ º ´½ µ Ì Ñ Ë Ö × Ò ÐÝ× ×¸ ÈÖ Ò
ØÓÒ ÍÒ Úº ÈÖ ××

℄ À Ý × ¸ º ´¾¼¼¼µ
ÓÒÓÑ ØÖ
׸ ÈÖ Ò
ØÓÒ ÍÒ Úº ÈÖ ×׺

℄ ÏÓÓÐ Ö ´¾¼¼¿µ¸ ÁÒØÖÓ Ù
ØÓÖÝ
ÓÒÓÑ ØÖ
׸ Ì ÓÑ×ÓÒº ´ÙÒ Ö Ö Ù Ø Ð Ú Ð¸ ÓÖ ×ÙÔÔÐ Ñ ÒØ ÖÝ



Ù× ÓÒÐݵº









¾

ÁÒ Ü









×ÝÑÔØÓØ
ÕÙ Ð Øݸ ¾





Ò ÖÙÐ ¸ ¾



Ó ¹ ÓÙ Ð × ÑÓ Ð¸ ½




ÓÒÚ Ö Ò
¸ ÐÑÓ×Ø ×ÙÖ ¸ ¾




ÓÒÚ Ö Ò
¸ Ò ×ØÖ ÙØ ÓÒ¸ ¾




ÓÒÚ Ö Ò
¸ Ò ÔÖÓ Ð Øݸ ¾



ÓÒÚ Ö Ò
¸ ÓÖ Ò Öݸ ¾




ÓÒÚ Ö Ò
¸ ÔÓ ÒØÛ × ¸ ¾




ÓÒÚ Ö Ò
¸ ÙÒ ÓÖѸ ¾




ÓÒÚ Ö Ò
¸ ÙÒ ÓÖÑ ÐÑÓ×Ø ×ÙÖ ¸ ¾




ÖÓ×× ×
Ø ÓÒ¸ ½





×Ø Ñ ØÓÖ¸ Ð Ò Ö¸ ¾¾¸ ¾



×Ø Ñ ØÓÖ¸ ÇÄ˸ ½



ÜØÖ ÑÙÑ ×Ø Ñ ØÓÖ¸ ½ ½





ØØ Ú Ð٠׸ ¾¼





Ð Ú Ö ¸ ¾¿



Ð Ð ÓÓ ÙÒ
Ø ÓÒ¸ ¿





Ñ ØÖ Ü¸ ÑÔÓØ Òظ ¾¾



Ñ ØÖ Ü¸ ÔÖÓ
Ø ÓÒ¸ ¾½



Ñ ØÖ Ü¸ ×ÝÑÑ ØÖ
¸ ¾¾





Ó × ÖÚ Ø ÓÒ׸ Ò Ù ÒØ Ð¸ ¾¾



ÓÙØÐ Ö׸ ¾¾



ÓÛÒ Ò Ù Ò
¸ ¾¿





Ô Ö Ñ Ø Ö ×Ô
¸ ¿



ÈÖÓ Ù
Ø ÖÙÐ ¸ ¾





ʹ ×ÕÙ Ö ¸ ÙÒ
ÒØ Ö ¸ ¾



ʹ×ÕÙ Ö ¸
ÒØ Ö ¸ ¾



Ö × Ù Ð׸ ¾¼









¿¼¼