カテゴリー: 芸術

  • PerfumeのSXSWライブでうにーっとなる謎の技術分析

    SXSW(サウス・バイ・サウスウエストでPerfumeのライブがあり、その様子がustreamで公開されたようです。SXSWとは「毎年3月にアメリカテキサス州オースティン市で行なわれる、音楽祭・映画祭・インタラクティブフェスティバルなどを組み合わせた大規模イベント」by wikipedia

    このステージの生配信された冒頭部分がYouTubeで1カ月間限定公開されいます。
    まー、まだ見てないひとは見てください。みたほうがいぃょ。まちげぇねぇ。

    おらぁ、ぽかーんとしたね。
    すごすぎて意味がわかんねぇや。なんで、答え合わせのない分析でもいっちょやってみたいと思う。技術のほうのブログに書こうとおもったんだけどドメイン失効してたからさ・・・放置されたピケティ連作のブログに紛れ込ませるんだよ!

    数年前おこなわれた拡張仮想

    渋谷ヒカリエのこけら落としか何かでPerfumeがやったライブで、フロントに貼ったフィルムに3Dホログラフィックを投影されたのがあった。指先につけたメタマテリアルかなにかのマーカーを拾ってそのフィルム上にリアルタイムで描画していくという数年経った今でもぶっとびの魔法のごときテクノロジー。
    モニタ越しに覗きこむのがAR:仮想空間拡張なら、Perfumeがやってることは仮想の中でおきていることを現実世界になんとかしてひっぱってきて表現しようという、拡張仮想だよね。なんてことを、前に書いたことがあるんだけど(ドメインごとネットの藻屑に消えたw)、今回のライブのように仮想も現実もまぜごちゃにされると、もう脳みそついていけないよねって感じですよな。

    AR?

    まずわかりやすいところで13秒のところあたりにみえるAR(拡張現実)っぽいなにか。

    p1

    赤い太線で囲った部分ね。おそらく現実のライブ会場に居る人達には見えないもので、配信映像上で合成された地平のパース線なのではないかな。
    これは実にARっぽいんだけど、ステージ上のどこかのマーカーに標準をあわせてるとかでやっているのかな? 人などの障害物を認識しているようにも見えるので、Kinect的な赤外線センサーとかで、奥行きぐらいはとっているかもしれない。

    ・・・と、まあ、これが単純なARだったら、誰もおどろいちゃくれねぇよ。
    ARだけでは説明がつかない。

    シームレスなモーフィング

    次に、音楽に併せて多視点カメラの切り替えで、ほんげーーーぇぇえ!??ってなるんだけど、このカメラスイッチングがリアルタイム、シームレスモーフィングなんですよ。もう横文字すぎてなんのこっちゃって感じですが。

    ひとつひとつ解説をしていきます。

    多視点:これはライブを撮影している据え付け型のカメラが複数台あるということです。

    スイッチング:カメラの切り替えってやつです。モニタールームで肩にセーターかけたディレクターさんが3カメーとか叫んでるやつですね(?)。これでどこのカメラ映像を使うかはディレクターが決めて、文字通りスイッチングしていくわけですが、普通のカメラワークであればスイッチングを頻繁にやり過ぎると意味がわからなくなるので、アップの絵だったり引きの絵だったり大抵3秒とか5秒づつぐらいは使われます。・・・が、今回はなんと音楽にあわせて1小節とか4分音符ごとにカメラパンパンしてます。酔っちゃう!

    モーフィング:で、視点をただパッッパと切り替えるとテレビのリモコンでザッピングしているような感じになっちゃうはずなんですが、今回はカメラ同士の映像の途中をつなぐ中間画像をいくつもつくってモーフィングしてから繋げてるわけですね。

    モーフィングというと、Michael Jackson の Black Or Whiteでいろんな人の顔が次々に変わっていくというのの印象が深いかもしれません。

    5:28〜のところ。

    人の顔は目の位置や鼻の位置など同じパーツがあるので、数値化しやすい。左右の目が4cm離れた人を5.5cm離れた人に10段階で近づけていくには1.5mmづつ離していってやればいいわけだ。黒人の肌を白人のそれにするには色の中間色を経過音的にいれてやればいい。中間画像が一杯あるほど、むにゅーんと変化する顔がつくれるわけです。

    実際には異なる2つの画像をつなぐ中間画像を細かくつくっていくことで、変化の変わり目をわかりにくくさせるやり方です。なので、このように左右の視点で同じ人の顔を捉えることで、擬似的な3D合成にもつかえる。

    でも、今回モーフィングしてんのは顔じゃぁああないんだよ!

    このシーンをみていただきたい。
    シーンA:
    p2

    シーンB:
    p3

    シーンAからBに切り替わるわけだけど中間ってなんだ!???
    特徴点分析をかけて特徴量ごとにQuadrangulationみたくメッシュ化して・・・できんの??

    これはコマ送りで、抜き出した画像。

    p4

    AとBの中間にあらわれるこの映像。
    AとBを合成したってこんな、正面からの撮影映像はでるわけがないんだよ・・・
    こんな画像がでてきちゃった時点でモーフィングだけでは説明がつかない。

    超多視点撮影

    アメリカ人気のSuperbowl では、超多視点のEyeVisionなどが導入されている。
    サッカーとかでも使われているのを見たのでだいぶ一般化してきたのかもしれない。


    こういうの。20〜35秒ぐらいの部分を参照。
    元画像から推測して合成なんてだるいこと言ってないで、その中間になる部分の映像も撮影すればいいじゃないの、といういかにも物量にものを言わせるアメリカ流。

    ライブステージは固定なので、アメフトのようにカメラワークを連動させる必要はない。
    もっと少ない台数と、低い設備投資で超多視点撮影と同じような効果を得ることができる。これなら、動いている絵をもとにモーフィングする必要がない。

    でもね、

    Screenshot 2015-03-20 23.30.12

    ・・・。客いねぇな・・・・・・。

    こんなの、スポーツ中継でつかわれるようなマルチアングル撮影のシームレススイッチングだけでは説明がつかないじゃないのさ・・・。説明がつかないことだらけ。

    リハーサル時の3Dモデルとブレンド

    Perfumeのダンスの細密な再現度があってこそなんだろうけど、予め3Dモデルに落とし込んだデータが用意されているであろうことは、カメラ視点がホークアイぶっとびの俯瞰になっていることからもわかる。

    多視点撮影なのも間違いない。でも、その中間をつなぐのは仮想データなのではないか。
    言い換えれば、仮想空間のライブに、現実空間で撮影したライブのほうの映像を合成している。だからカメラアングルは自由自在に、カメラを動かした映像として出力できる。
    同時にステージ上に展開しているプロジェクションマッピングも制御できるし一石二鳥だね!

    ってな具合で、分析したつもりだけど、ほんとなんのこっちゃだよね。少なくとも中間画像はなんらかの形で作られていると思うんだけど、お手上げだよ。これ、静止画じゃないんだよ、カメラスイッチング中も客席が動いてるんだよ・・・。リアルタイムで、こんな速度でできるのかね?

    予めリハーサル動画のほうで中間画像を合成していおいてるのかなとおもったんだけど、そんなちゃっちなもんじゃないんだよね・・・。
    しかもこれが録画じゃなくストリーミングされたってのが、もう未来すぎて、絶句ですわ。
    SxSWだし謎のテクノロジーがつかわれてるんだろうなと納得させるしかないのでありました。

    推測結論

    複数台のいろいろなアングルからのカメラからの撮影動画を、切り替えるときに、途中経路のカメラ映像を差し込んでカメラ間のスイッチングをスムーズモーフィングにしている。
    その時、繋ぎ目を分かり難くするために仮想空間上の3Dモデルからの映像を混ぜることでシームレスにしている。
    中間画像合成まではせずに、アルファブレンドの透過度を変更し、視覚効果をまぜることでぼかしている。

    どこかで答えあわせ期待したいですね。

    ちなみに

    あーちゃん派です

    追記

    現地でみてた人の段によればカメラは10台ぐらいだったってYO!

  • 国宝がみたいので国宝展にいってきた

    2014-12-06 18.52.56

    120点もの国宝が集結するという。いかねばなるまいと思っていて、ついつい会期の最終日一日前になってようやく駆け込みでいってこれた。20時まで閉館時間を延期に感謝。
    東京国立博物館の中にはいるのは初めてかも。うん。

    さて、国宝展の詳細レビューはいろいろなヒトがもうやっていると思うし、どうせ会期も明日で終わりなので独断と偏見にまみれた感想をわすれぬうちに。
    http://kokuhou2014.jp/

    No04. 直刃 号 丙子椒林剣

    はいってすぐのところにある。聖徳太子とゆかりがある細身直刃のこぶりな刀。
    装飾刀に近くあまり実用性はなさそう。造りが独特な感じがした。レイピアっぽい。日本刀の作成技法が出来る前の現存する刀だそうだ。
    3重ぐらいのヒトの頭越しでよくみえなかったので、手をのばして頭上越しにアイフォンでぴろーんって撮影したら、「撮影だめ、消して下さい」って立ち会いのもと消させられた(´・ω・`)刀も撮影禁止なんだね。。。

    フラッシュとかで絵が焼けるからってので撮影禁止なのはわかるんだけど、なんで刀とかもだめなんだろうか?所有者との契約の問題?それとも撮影会になってしまって観覧者がさばけなくなるから?信仰物系もあるから?詳細を後でみたかったのになー。撮影禁止って書いてなければ撮って大丈夫だよってネットでみかけたんだけど、聞いたら国宝展ではそんな場所はないそうです。残念だね。なんで撮影禁止なんだろうね?
    https://www.google.co.jp/search?q=%E4%B8%99%E5%AD%90%E6%A4%92%E6%9E%97%E5%89%A3&espv=2&biw=1117&bih=706&source=lnms&tbm=isch&sa=X&ei=kFGDVLfTGNC48gXooYCwDw&ved=0CAYQ_AUoAQ#tbm=isch&q=%E4%B8%99%E5%AD%90%E6%A4%92%E6%9E%97%E5%89%A3+%E5%9B%BD%E5%AE%9D
    参考画像もあまりいいのがありません・・・。

    No28. 地獄草紙

    列が動かなくてちっとも見れない人気の作品でした。なのでほとんどみれませんでした。どふ。
    が、ニワトリ地獄とか解説がちょっとおちゃめで想像たくましく、おもしろうそうげ。じっくり見てみたかったです。
    普段は奈良国立と東京国立にあるようで、奈良の国立のほうでWebサイト上にあります。
    http://www.narahaku.go.jp/collection/v-644-0-2.html
    > 第一段糞屎泥地獄、第二段凾量地獄、第三段鉄鎧地獄、第四段鶏地獄、第五段黒雲沙地獄、第六段膿血地獄、第七段孤狼地獄
    あー、WEBページでおちゃめな解説と迫力が再現できてない。なんだこのくそフラッシュ。

    No41. 普賢菩薩像

    あまりみられていなかったけど実物はその他の国宝とくらべても図抜けてよいとおもいました。
    http://www.tnm.jp/modules/r_collection/index.php?controller=dtl&colid=A1
    http://www.tnm.jp/uploads/r_collection/L_C0016809.jpg

    No43. 金光明最勝王経金字宝塔曼荼羅図 第四幀

    http://www.chusonji.or.jp/guide/culturalassets/
    紺地の紙の色もみないような色ですし、遠目に見ると金彩で描かれた塔なんですが、これ全部細密な文字(経?)なんですね。いってみりゃアスキーアートなんだけど、なんていうかその他の部分も含めて実に緻密。まさに気の遠くなるような曼荼羅図をみた気がしました。

    No48. 土偶 中空土偶

    土偶の中でフューチャリングするのは中空土偶です。その他の国宝土偶は女性をかたどったセクシーな感じなのですが、この中空土偶はたぶんおっさんで、何かへその部分とかあごひげの部分とか、籐みたいな中空植物の茎とかでスタンプしたようなひげだとか、へそ毛とかが表現されてて、うわぁむさぁ・・・と思いました。あと、なんか格好がモンゴル相撲っぽい。
    そのほかのビーナス土偶については、裏にまわりこんで見ると結構いろいろな発見があると思います。仮面の女神の後頭部のなんと表現したものでしょう?男性器のような後頭部と、素焼きで焼いたら絶対割れるからやめとけというような感じのほそづくりの浮き造形がいくつもあって、これは焼くのも大変だったんじゃないかとか思いました。縄文時代の技術の高さを思い知ります。

    No59. 短刀 銘 来国俊 正和五年十一月日

    出刃包丁と柳刃包丁を足して2で割ったような短刀。5mm程度の肉厚さと、鋭い切っ先、直刃。
    品があるとてもいい作でした。とてもいい。もう一回見に行ったぐらいよい。
    https://www.atsutajingu.or.jp/jingu/bunkaden/possession/19.html
    https://www.atsutajingu.or.jp/jingu/bunkaden/possession/

    No85. 孔雀明王像

    よいですね。
    http://www.emuseum.jp/detail/100158/001/003?word=&d_lang=ja&s_lang=ja&class=&title=&c_e=&region=&era=&cptype=&owner=&pos=9&num=8&mode=detail&century=

    No91. 金銅密教法具

    地金の色は気に入らなかったんですが、五鈷杵や三鈷杵がセットになっているのは見たこともないなと。なんかカブトムシとかクワガタとかヘラクレスを並べられているような感じで妙なワクワク感がありました。
    http://www.pref.hiroshima.lg.jp/site/bunkazai/bunkazai-data-101040050.html

    No108. 飛青磁花生 龍泉窯

    姿も美しいですし、デザインもその色合いもみたこともない感じでファンタスティックでした。ファイヤーキングのガラスかってぐらい釉薬がガラス化しててどんな窯なんだろうとか不思議におもったんですが、日本の作でないというのを聞いて、あぁなるほどねっと。
    http://www.sumitomo.gr.jp/related/masterpiece/03/index.html

    No109. 玳玻天目 吉州窯

    たいひてんもくと読むようです。こちらも海外作の国宝ですね。
    どれか一個もってかえっていいよッて言われたら、間違いなくこれ!!次点で短刀の正和五年十一月日かな。
    日本書紀とか、土佐日記とか文化背景までを含めての国宝も多かったのだけど、来国俊の刀も、玳玻天目茶碗も、まあ上にあげた個人的に気に入ったものは単純に美術品としてのバランスだとか、それを作るための技術に粋を感じて評価しています。でも、その中でも玳玻天目茶碗は、なんだこりゃどうなってるんだ!?って感じに素晴らしかったです。
    http://bunka.nii.ac.jp/db/SearchDetail.do?heritageId=71152
    ありゃ、この写真こんなか、残念ですね。今日みたものと同じものとは思えない写り映えです。
    実物は、光が屈折するんでしょうな。多層構造になっているのか、角度によって色目や文様がかわるので、すごい面白くてぐるぐる周りをまわってしまった。
    あの茶碗があればしばらくニヤニヤできますね。三代将軍家光の長女に嫁いで来てもらわないとダメな代物なんですが。

    No115 普賢菩薩騎象像 (大倉文化財団)

    仏像の表情もいいんですが、乗っている象がこれまた素晴らしかったです。まだ象がみられたことがない時代(12世紀)の作なんですが、牛っぽいお尻に骨盤を感じさせる膨らみがあったり、よくよく前足をみると膝の部分にもういっぽんの指?があったりして、とてもおもしろい!
    これの作者はなんていうか真面目なやつというか、おもしろいやつというか、たぶんいいやつ!
    ま、冗談さておき細部に見入っても発見が尽きない作品というものを後世にまでのこせる才というのは素晴らしいなと感服つかまつりて候。
    https://www.google.co.jp/search?q=%E6%99%AE%E8%B3%A2%E8%8F%A9%E8%96%A9%E9%A8%8E%E8%B1%A1%E5%83%8F+%E5%A4%A7%E5%80%89&espv=2&biw=1117&bih=706&source=lnms&tbm=isch&sa=X&ei=MkGDVMbwGeXZmgWmzoHACw&ved=0CAYQ_AUoAQ#tbm=isch&q=%E6%99%AE%E8%B3%A2%E8%8F%A9%E8%96%A9%E9%A8%8E%E8%B1%A1+%E5%9B%BD%E5%AE%9D

    国宝展レポは以上になります。
    以上、120点のなかからお気に入りの国宝でした。

    ・・・。
    ひといっぱいで疲れました。

    常設展の会場にもそのままいけるのでそちらも愉しみましょう。そっちのほうが見応えがあります・・・。ヒトも少ないし。アジア館の階段なんてホコリが積もってるぐらい・・・。
    なにげに本館にも国宝があって、長船長光とあったし。刀剣ではやっぱり長船が私は好きですな。
    思えば小学校の頃初めてひなびた地方の博物館でみて名前を記憶したのも長船長光であった。やっぱり日本刀を個人的な好き嫌いで言えば長船がいいなーと。
    ここには珍しい長槍もあって、嬉しくなりました。
    http://www.emuseum.jp/detail/100191/000/000?mode=simple&d_lang=ja&s_lang=ja&word=%E5%85%89%E5%BF%A0&class=&title=&c_e=&region=&era=&century=&cptype=&owner=&pos=1&num=3

    あと、何があったっけかなー。
    法隆寺宝物館の1Fの仏像ずらーのところで、ほぼどれも面長頭でっかちの4頭身なんだけど、右前前列右から3番目ぐらいになんか初音ミクかって感じのフィギュアっぽいスタイルとポーズがあって、なんかすげぇなって思った。気のせいかもしれない。
    http://www.tnm.jp/modules/r_exhibition/index.php?controller=item&id=3903

    他にもいろいろおもしろいものがあったのだけど、あんだけ人だらけだったのに「あなたが国宝ですか!」とか、国宝級美人に声を掛けられなかったのが残念だったぐらいです。
    国宝をみて気分が高まったところにある、鶯谷のラブホ街とうち流しのコンクリの床の起伏がすばらしい木造駅舎でどーんと現実に引き戻されたので国宝展は終了となります。