๐Ÿ”™ Back to Top

Wed Jun 20 2018

ๆ—ฅ่จ˜ - ใ“ใ“ๆ•ฐใƒถๆœˆ

่‡ชๅˆ†ใŒ่ฟฝใฃใฆใ‚‹ๅˆ†้‡ŽใฏๆฉŸๆขฐๅญฆ็ฟ’ใƒป่‡ช็„ถ่จ€่ชžๅ‡ฆ็†ใชใฎใ ใŒใ€่ซ–ๆ–‡ใ‚’่ชญใ‚“ใงใ„ใ‚‹ใจใ€ๅคงใ’ใ•ใชๅ‘ฝๅใซ่พŸๆ˜“ใ™ใ‚‹. ใพใ—ใฆใ‚„ใ€ๅฎŸ่ณช็š„ใซใŸใ ้ŽๅŽปๆ‰‹ๆณ•ใ‚’ๅผ•็”จใ—ใฆใ‚‹ใ ใ‘ใชใฎใซใ€ๅ‹ๆ‰‹ใซๆ”นๅใ—ใฆใฟใŸใ‚Š.

Introspective Neural Network

็œŸ้ข็›ฎใช่งฃ่ชฌใฏ paper/ST-INN ใซๆ›ธใ„ใŸ. ใ“ใ“ใงใฏๆ•ฐๅผใ‚’็œ็•ฅใ—ใฆๆฐ—ๆŒใกใƒ™ใƒผใ‚นใง่ชฌๆ˜Žใ™ใ‚‹.

ใ“ใฎๆๆกˆๆ‰‹ๆณ•ใฏ Introspective Learning ใ‚’ใƒ™ใƒผใ‚นใจใ™ใ‚‹. ๅ‹ๆ‰‹ใซๅฏพ่จณใ‚’ใคใ‘ใ‚‹ใชใ‚‰ใ€Œๅ†…็œๅญฆ็ฟ’ใ€ใจใงใ‚‚่จ€ใŠใ†ใ‹. "ใƒŠใƒ‹ใƒŠใƒ‹ learning" ใจใ„ใ†ๅ‘ฝๅใ‚‚ใ‚ˆใใ‚ใ‚‹. ๅคงๆŠตใ€ใใฎ "ใƒŠใƒ‹ใƒŠใƒ‹" ใซใฏใ€ๆ—ฅๆœฌไบบใซใฏ้ฆดๆŸ“ใฟใฎใชใ„ใ€็›ด่ฆณใซ่จดใˆใ‚‹ใ‚ˆใ†ใชใ€่ก“่ชžใ‚‰ใ—ใใชใ„่ชžใŒๅ…ฅใ‚‹.

ใใ—ใฆใใฎใ€Œๅ†…็œๅญฆ็ฟ’ใ€ใ‚’่กŒใ†ใŸใ‚ใฎ Neural Network ใ ใ‹ใ‚‰ใ€ Introspective Neural Network ใจใ„ใ†ใ“ใจใ‚‰ใ—ใ„. ๆๆกˆๆ‰‹ๆณ•ใฎๅๅ‰ใฏใพใ‚‹ใงๅบƒใไฝฟใ‚ใ‚Œใฆใ„ใ‚‹ใฎใ ใ‹ใ‚‰ๅฝ“็„ถใงใ‚ใ‚‹ใ‹ใฎใ‚ˆใ†ใซใ€้ ญๆ–‡ๅญ—ใ‚’ๅ–ใฃใฆ็œ็•ฅใ™ใ‚‹ใฎใŒๆ™ฎ้€šใ . ใ“ใฎๅ ดๅˆใฏ INN ใจใชใ‚‹.

ใ•ใฆใ“ใฎ INN ใŒไฝ•ใ‹ใจ่จ€ใˆใฐใ€Tu ใฎ็”Ÿๆˆใƒขใƒ‡ใƒซใงใ‚ใ‚‹. ใกใชใฟใซ Tu ใฎ่ซ–ๆ–‡ใงใฏ Introspective ใชใ‚“ใฆใ„ใ†่ชžใฏ็™ปๅ ดใ—ใชใ„.

Tu ใฏใ€็”Ÿๆˆใƒขใƒ‡ใƒซใจๅˆ†้กžใƒขใƒ‡ใƒซใŒๅฏ†ๆŽฅใซ้–ขไฟ‚ใ™ใ‚‹ใ“ใจใ‚’็™บ่ฆ‹ใ—ใŸ. ๅˆ†ใ‹ใ‚Šใ‚„ใ™ใ„ใ‹ใ‚‰ใ€็”ปๅƒใฎ็”Ÿๆˆใƒขใƒ‡ใƒซ/ๅˆ†้กžใƒขใƒ‡ใƒซใฎไพ‹ใง่จ€ใ†. ใใ‚Œใ‚‚2ๅ€คๅˆ†้กžใง่จ€ใ†ใ“ใจใซใ™ใ‚‹.

C ใจใ„ใ†็‰ฉไฝ“ใŒๆใ‹ใ‚Œใฆใ„ใ‚‹็”ปๅƒใงใ‚ใ‚‹ใ‹ใฉใ†ใ‹ (C ใจใฏไพ‹ใˆใฐใ€Œ็Œซใ€) ใ‚’ๅˆคๅฎšใ™ใ‚‹ใŸใ‚ใฎๆฉŸๆขฐใŒใ€Œๅˆ†้กžใƒขใƒ‡ใƒซใ€ใงใ‚ใ‚Šใ€ C ใจใ„ใ†็‰ฉไฝ“ใŒๆใ‹ใ‚Œใฆใ„ใ‚‹็”ปๅƒใ‚’็”Ÿๆˆใ™ใ‚‹ๆฉŸๆขฐ (ใƒฉใƒณใƒ€ใƒ ใซ่‰ฒใ‚“ใชใƒใƒชใ‚จใƒผใ‚ทใƒงใƒณใ‚’็”Ÿใฟๅ‡บใ™ใฎใŒๆœ›ใพใ—ใ„) ใŒใ€Œ็”Ÿๆˆใƒขใƒ‡ใƒซใ€ใงใ‚ใ‚‹.

ใฉใกใ‚‰ใซใ—ใฆใ‚‚ๅ•้กŒใŒใ‚ใ‚‹. ใ€Œ็”ปๅƒใ€ ใจใฏไฝ•ใ‹. ใƒ”ใ‚ฏใ‚ปใƒซใŒไธฆใ‚“ใ ่กŒๅˆ—ใ ใจ่ชฌๆ˜Žใงใใ‚‹. ็”ปๅƒใ‚ตใ‚คใ‚บใ€ใคใพใ‚Š่กŒๅˆ—ใฎๅคงใใ•ใ‚‚็„ก้™้€šใ‚Šใ‚ใ‚‹ใŒใ€ใ“ใ‚ŒใฏไพฟๅฎœไธŠๅ›บๅฎšใ™ใ‚‹ใฎใŒ้€šไพ‹ใงใ‚ใ‚‹. ้ฉๅฝ“ใซๅˆ‡ใ‚Šๅ–ใฃใŸใ‚Šไผธ็ธฎใ—ใŸใ‚Šใ™ใ‚‹. ใ—ใ‹ใ—ใ ใจใ—ใฆใ‚‚ใ€ใใฎใƒใƒชใ‚จใƒผใ‚ทใƒงใƒณใฏ่†จๅคงใงใ‚ใ‚‹. ใชใ‚“ใ›ใ€1ใƒ”ใ‚ฏใ‚ปใƒซใ ใ‘ใงใ‚‚RGBใฎ่‰ฒใŒใใ‚Œใžใ‚Œ256้€šใ‚Šใ‚ใ‚‹ใ‹ใ‚‰. ใคใพใ‚Š่จ€ใ„ใŸใ„ใฎใฏใ€ ใ€Œ็”ปๅƒ็ฉบ้–“ใ€ ใฏ่†จๅคงใซๅบƒใ„ใฎใ ใจใ„ใ†ใ“ใจ.

็ด ๆœดใชๆฉŸๆขฐๅญฆ็ฟ’ใงใฏใ€ไบ‹ไพ‹ (sample) ใ‚’็”จใ„ใ‚‹. ใคใพใ‚Šใ€ใฉใ“ใ‹ใ‹ใ‚‰ๆ‹พใฃใฆใใŸ C ใฎ็”ปๅƒใ€Cใงใชใ„็”ปๅƒใ‚’ๆฒขๅฑฑ้›†ใ‚ใฆใใ‚‹. ใ—ใ‹ใ—ใ€่†จๅคง้ŽใŽใ‚‹ใ€Œ็”ปๅƒ็ฉบ้–“ใ€ใฏใพใ‚‹ใง็ถฒ็พ…ใงใใชใ„ใ ใ‚ใ†.

ใจใ“ใ‚ใงใ€Œ็”ปๅƒใ€ใŒไฝ•ใงใ‚ใ‚‹ใ‹ใ‚’ๆฑบใ‚ใฆใ„ใชใ‹ใฃใŸ. ไฝ•ใงใ‚‚ใ‚ใ‚Šใซใ—ใŸใ‹ใ‚‰ใ“ใใ€ใ€Œ็”ปๅƒ็ฉบ้–“ใ€ใŒ่†จๅคงใซใชใฃใฆใ—ใพใฃใŸ. ไพ‹ใˆใฐ็™ฝใจ้ป’ใŒใƒฉใƒณใƒ€ใƒ ใซไธฆใ‚“ใ ็”ปๅƒ (ใƒŽใ‚คใ‚บ) ใฏ็”ปๅƒใ ใ‚ใ†ใ‹. ็”ปๅƒใจใ„ใˆใฐใ‚‚ใกใ‚ใ‚“็”ปๅƒใ ใ‚ใ†ใŒ...

ใ‚ขใƒ—ใƒชใ‚ฑใƒผใ‚ทใƒงใƒณใ‚’่€ƒใˆใฆใ—ใพใ†ใฎใ‚‚ใ€1ใคใฎๆ‰‹ใ . ๅฎŸ้š›ใซใฏใ€ๅˆ†้กžใƒขใƒ‡ใƒซใซใ€ใใ‚“ใช็ ‚ๅตใฎใ‚ˆใ†ใชใƒŽใ‚คใ‚บ็”ปๅƒใ‚’ๅ…ฅๅŠ›ใ™ใ‚‹ใ ใ‚ใ†ใ‹. ใพใŸใ€็”Ÿๆˆใ—ใŸใ„็”ปๅƒใฏ C ใฎ็”ปๅƒใงใ‚ใ‚‹. ็ ‚ๅต็”ปๅƒใ‚’่€ƒๆ…ฎใ™ใ‚‹ๅฟ…่ฆใŒใ‚ใ‚‹ใ ใ‚ใ†ใ‹.

ใ‚คใ‚คใ‚จ ใŒ็ญ”ใˆใ ใจใ—ใฆ่ฉฑใ‚’้€ฒใ‚ใ‚‹. ๅ…ฅๅŠ›ใ•ใ‚Œใ‚‹็”ปๅƒใฏๅฐ‘ใชใใจใ‚‚ๆ–‡่„ˆใ‹ใ‚‰ๅˆ‡ใ‚Š้›ขใ—ใฆไบบ้–“ใŒ่ฆ‹ใฆ่งฃ้‡ˆใŒใงใใ‚‹็”ปๅƒใ ใจใ™ใ‚‹. ไฝ•ใ‹ใฎ็‰ฉไฝ“ใŒๆใ‹ใ‚Œใฆใ„ใ‚‹ใจใ‹ใ€้ขจๆ™ฏใฎๅ†™็œŸใ ใจใ‹ใ . ๆŠฝ่ฑก็”ปใ ใฃใฆใ€ใƒŽใ‚คใ‚บใซๆฏ”ในใ‚Œใฐใ€ใ€Œ็ทšใŒใคใชใŒใฃใฆใ„ใ‚‹ใ€ใใ‚‰ใ„ใฎๅˆ็†ๆ€งใฏใ‚ใ‚‹ (ใใ‚Œใงใ‚‚ใ‚ใพใ‚Š่€ƒๆ…ฎใ—ใŸใใชใ„ใŒ).

ใจใ„ใ†ใ‚ใ‘ใงใ€ๅ‡บๆฅใ‚‹ใ ใ‘ C ใงใ‚ใ‚‹ใ‚ˆใ†ใช็”ปๅƒใ‚’้›†ใ‚ใ‚‹ใ“ใจใซๆ„ๅ‘ณใŒใ‚ใ‚‹. ็Šฌใฎๅ†™็œŸใ ใฃใฆใ„ใ„. ใƒฉใƒณใƒ€ใƒ ใซ็”Ÿๆˆใ—ใŸใƒŽใ‚คใ‚บ็”ปๅƒใซๆฏ”ในใ‚Œใฐใšใฃใจ็Œซใ‚‰ใ—ใ„.

Tu ใฎ็”Ÿๆˆใƒขใƒ‡ใƒซใฏใ“ใ†ใ . ๅˆใ‚ใฏไฝ•ใงใ‚‚ใ‚ใ‚Šใฎ็”ปๅƒ็ฉบ้–“ใ‚’ๆง‹ๆˆใ™ใ‚‹. ๅ„ใƒ”ใ‚ฏใ‚ปใƒซใฏๅŒๆง˜ใฎ็ขบใ‹ใ‚‰ใ—ใ•ใงๅ€คใ‚’ๆŒใค. ใปใจใ‚“ใฉใฎๅ ดๅˆใ€ใŸใ ใฎใƒŽใ‚คใ‚บใงใ€ๅฅ‡่ทก็š„ใช็ขบ็Ž‡ใง C ใ‚’ๆใ. ใใ“ใ‹ใ‚‰ใƒฉใƒณใƒ€ใƒ ใซ็”ปๅƒใ‚’็นฐใ‚Š่ฟ”ใ—ๆŠฝๅ‡บใ—ใ€C ใงใ‚ใ‚‹็ขบ็Ž‡ใ‚’่จˆ็ฎ—ใ™ใ‚‹. ใใฎ็ขบ็Ž‡ใŒ้ซ˜ใ„ๆ–น้ซ˜ใ„ๆ–นใซใ€็”ปๅƒ็ฉบ้–“ใ‚’็‹ญใ‚ใฆใ„ใ. ใ„ใ‚ใฐใใฎ็ฉบ้–“ใใฎใ‚‚ใฎใŒ C ใฎ็”Ÿๆˆใƒขใƒ‡ใƒซใจใชใ‚‹. ใ“ใ‚ŒใŒ็”Ÿๆˆใƒขใƒ‡ใƒซใฎไฝœใ‚Šๆ–น.

ไปŠใฎ่ชฌๆ˜Žใฎไธญใงใ€C ใงใ‚ใ‚‹็ขบ็Ž‡ใ‚’่จˆ็ฎ—ใ™ใ‚‹ๅฟ…่ฆใŒใ‚ใฃใŸ. ใ“ใ‚ŒใŒๅˆ†้กžใƒขใƒ‡ใƒซใฎไป•ไบ‹ใงใ‚ใ‚‹. ๅˆ†้กžใƒขใƒ‡ใƒซใฏใพใšใ€ๆ™ฎ้€šใซ้›†ใ‚ใŸไบ‹ไพ‹ใ‹ใ‚‰ไฝœใ‚‹. ใใฎไบ‹ไพ‹ใฏใ€ใพใ•ใซ C ใงใ‚ใ‚‹็”ปๅƒใจ C ใงใฏใชใ„็”ปๅƒใ‚’้›†ใ‚ใŸใ‚‚ใฎใงใ‚ใ‚‹. ใ—ใ‹ใ—ใพใ ใ€็”ปๅƒ็ฉบ้–“ใฏ่†จๅคงใงใ€ใใ‚Œใซๅฏพใ—ใฆไบ‹ไพ‹ใฏใ‚ใพใ‚Šใซใ‚‚ๅฐ‘ใชใใ€ๅพ“ใฃใฆใใ“ใ‹ใ‚‰ไฝœใฃใŸๅˆ†้กžใƒขใƒ‡ใƒซใ‚‚่ฒงๅผฑใซ้•ใ„ใชใ„. ใใ“ใงๅ…ˆ็จ‹ใฎ็”Ÿๆˆใƒขใƒ‡ใƒซใ‚’ๆดป็”จใ™ใ‚‹. ็”Ÿๆˆใƒขใƒ‡ใƒซใฏใ€ใƒŽใ‚คใ‚บใ‚ˆใ‚Šใฏๅฐ‘ใ—ใฏใƒžใ‚ทใช C ใ‚‰ใ—ใ„็”ปๅƒใ‚’ไฝœใ‚ŠไธŠใ’ใ‚‹. ใ“ใ‚Œใ‚’ C ใงใฏใชใ„็”ปๅƒใ ใจใ—ใฆไบ‹ไพ‹ใซๅŠ ใˆใ‚‹. ็”Ÿๆˆใƒขใƒ‡ใƒซใฏใพใ ๅˆใ‚ใฏ่ฒงๅผฑใ ใ‹ใ‚‰ใ€C ใงใฏใชใ„ใ“ใจใŒๅคšใ„ใ ใ‚ใ†ใ‹ใ‚‰.

ใคใพใ‚Šใ“ใ†ใ . ็”Ÿๆˆใƒขใƒ‡ใƒซใ‚’ไฝœใ‚‹ใŸใ‚ใซใฏๅผฑใ„ๅˆ†้กžใƒขใƒ‡ใƒซใŒๅฟ…่ฆใงใ€ๅˆ†้กžใƒขใƒ‡ใƒซใ‚’ไฝœใ‚‹ใŸใ‚ใซใฏๅผฑใ„็”Ÿๆˆใƒขใƒ‡ใƒซใŒๅฟ…่ฆใงใ‚ใ‚‹. ๅพ“ใฃใฆใ€ใใฎ2ใคใ‚’ไบคไบ’ใซ้›ใˆใฆใ„ใ‘ใฐใ„ใ„. ใ“ใฎไฝœใ‚Šๆ–นใงๆžœใŸใ—ใฆ็œŸใฎๅˆ†้กžใƒขใƒ‡ใƒซ/็”Ÿๆˆใƒขใƒ‡ใƒซใซๅŽๆŸใ™ใ‚‹ใฎใ‹ใจใ„ใ†ๅ•้กŒใซใคใ„ใฆใฏใ€Tu ใฎ่ซ–ๆ–‡ใ‚’ๅ‚็…งใ—ใฆใปใ—ใ„ใŒใ€ๅŽๆŸใ™ใ‚‹ใจใ„ใ†ใฎใŒ็ญ”ใˆใ .

ใ“ใ“ใพใงใŒ INN ใฎ่ฉฑใงใ€ๆ›ดใซใ‚ณใƒฌใซ ST ใฎ้ƒจๅˆ†ใ‚’ไป˜ใ‘ๅŠ ใˆใฆ ST-INN ใจใ„ใ†ใฎใŒๆๆกˆๆ‰‹ๆณ•ใชใฎใ ใŒใ€้ฃฝใใŸใฎใงใ“ใ“ใง่ฉฑใฏ็ต‚ใ‚ใ‚Š.

ๆ—ฅ่จ˜ - ใ“ใ“2ๅนด

ๆณ•ๅพ‹ใจใ„ใ†ใฎใฏๅŸบๆœฌ็š„ใซใ€ๆˆ‘ใ€…ใฎ้ ใ‹ใ‚Š็Ÿฅใ‚‰ใฌใจใ“ใ‚ใง็™บๆกˆใ•ใ‚Œใฆ่ญฐ่ซ–ใ•ใ‚Œใฆใ€ใใ†ใ—ใฆๆฑบๅฎšใ—ใŸใ‚Šใ™ใ‚‹ใ‚‚ใฎใ . ๆ–ฐใ—ใ„ๆณ•ใŒๆฑบๅฎšใ•ใ‚Œใ‚Œใฐใ€ๆˆ‘ใ€…ใฏใใ‚Œใซๅพ“ใ†ใ“ใจใŒ่ฆ่ซ‹ใ•ใ‚Œใ‚‹. ่ญฐ่ซ–ใซๅ‚ๅŠ ใ—ใŸใ‚‚ใฎใซใจใฃใฆใฏๆ™ฎๅŠใซๅŠชใ‚ใ‚‹ใฎใŒๅฝ“็„ถใ ใ—่‡ชๅˆ†ใŸใกใ‚‚ใใ‚Œใซๅพ“ใ†ใฎใ ใ‚ใ†ใŒใ€ใ“ใกใ‚‰ใจใ—ใฆใฏใ€ใฉใ“ใพใงใ‚‚ใ€็ŸฅใฃใŸใ“ใจใงใฏใชใ„. ่ญฐ่ซ–ใซๅ‚ๅŠ ใ—ใŸใ‹ใฃใŸใ€ใจใ„ใ†ใ€ๅซ‰ๅฆฌใชใฎใ‹ใ‚‚ใ—ใ‚Œใชใ„.

ใจใ“ใ‚ใงใ‚ณใƒณใ‚ตใƒซๅ‡บ่บซใจใ„ใ†ใฎใฏๅŽ„ไป‹ใ ใž.