2003/03/25天文学会春季年会 JVO の研究開発 (2) 全体進捗 大石雅寿 国立天文台 & 総研大

Slides:



Advertisements
Similar presentations
IVOA Interoperablity meeting KyotoMasahiro Tanaka (NAOJ) 1 JVO use of Globus Toolkit Masahiro Tanaka (NAOJ)
Advertisements

Remote Visualisation System (RVS) By: Anil Chandra.
Construction of the Japanese Virtual Observatory (JVO) Abstract : The National Astronomical Observatory of Japan (NAOJ) has been operating several large.
AIR マスターへの 抜け道!? ~といいつつ王道話です~ 平成 20 年 2 月 6 日 図書系のための アプリケーション開発講習会.
創成C PROGRAMMING PROJECT 中部大学工学部情報工学科:創成Cインタラクティブデザイン( アプリ名: ZIP 2 GPS 作成者: EP00000 藤吉 弘亘.
平成22年度予算の国立大学法人関連要望事項に係るパブリックコメント説明会
Fundamentals, Design, and Implementation, 9/e Chapter 14 JDBC, Java Server Pages, and MySQL.
太陽中性子国際観測網と 最近の太陽活動 松原豊他太陽中性子グループ 2004 年 3 月 28 日 日本物理学会第 59 回年次大会・九州大学.
実装の流れと 今後のスケジュール 03k0014 岸原 大祐. システム概要 天気データをもとに、前向き推論をし ていき、親の代わりに子供に服装、持 ち物、気をつけることなどを教える。
SXDS database and Japanese Virtual Observatory Yuji Shirasaki and JVO collaborations National Astronomical Observatory of Japan.
INTERNET DATABASE Chapter 9. u Basics of Internet, Web, HTTP, HTML, URLs. u Advantages and disadvantages of Web as a database platform. u Approaches for.
子供の判断支援システム 03k0014 岸原大祐. システム概要 天気データと個人データの二つから、 条件に応じて服装、行動等に対し、親 の代わりに子供に対してアドバイスを 行う。
INTERNET DATABASE. Internet and E-commerce Internet – a worldwide collection of interconnected computer network Internet – a worldwide collection of interconnected.
最近の ICD の動向について (WHO 公表資料より抜粋). HIS および IT を用いた WHO 分類 国の保健業務 出生 死亡 疾病 障害 リスク要因 電子保健 記録システム ICD ICF ICHI 分類 マッピング 専門用語 臨床業務 意思決定支援 ケアの統合 結果 管理業務 日程計画.
2003/7/23 学術情報発信に関する懇談会 1 学術情報発信の推進について 附属図書館. 2003/7/23 学術情報発信に関する懇談会 2 背景 科学技術・学術審議会『学術情報の流通 基盤の充実について(審議のまとめ)』 (平成 14 年 3 月 12 日) – 「大学等から発信される様々な学術情報が簡.
音の変化を視覚化する サウンドプレイヤーの作成
Web-based Software Development - An introduction.
QCDgrid Technology James Perry, George Beckett, Lorna Smith EPCC, The University Of Edinburgh.
1 UTGB Shell An Open-Source Browser Framework for the Integration of Biological Data Taro L. Saito, Shin Sasaki, Budrul Ahsan and.
Virtual Observatory --Architecture and Specifications Chenzhou Cui Chinese Virtual Observatory (China-VO) National Astronomical Observatory of China.
11/27/2003IVOA Small Projects Meeting China-VO Data Access Service Based on OGSA Jian Sang National Astronomical Observatory of China Chinese Virtual.
The Japanese Virtual Observatory (JVO) Yuji Shirasaki National Astronomical Observatory of Japan.
Data Management Kelly Clynes Caitlin Minteer. Agenda Globus Toolkit Basic Data Management Systems Overview of Data Management Data Movement Grid FTP Reliable.
Astronomical Data Query Language Simple Query Protocol for the Virtual Observatory Naoki Yasuda 1, William O'Mullane 2, Tamas Budavari 2, Vivek Haridas.
How Grid Security works in GEO Sciences N. Yamamoto, Y. Tanaka, I. Kojima, S. Sekiguchi AIST Oct. 28, 2009.
Yuji SHIRASAKI National Astronomical Observatory of Japan Current Status of Japanese Virtual Observatory (JVO)
WSRF Supported Data Access Service (VO-DAS)‏ Chao Liu, Haijun Tian, Dan Gao, Yang Yang, Yong Lu China-VO National Astronomical Observatories, CAS, China.
Fundamentals of Database Chapter 7 Database Technologies.
GT Components. Globus Toolkit A “toolkit” of services and packages for creating the basic grid computing infrastructure Higher level tools added to this.
Prototype system of the Japanese Virtual Observatory The Japanese Virtual Observatory (JVO) aims at providing easy access to federated astronomical databases.
An-Najah National University Software Graduation Project Remote Control System Working Group: Mohammad Yasin Mohammad Yasin Ala’a Deeb Ala’a DeebInstructor:
QCDGrid Progress James Perry, Andrew Jackson, Stephen Booth, Lorna Smith EPCC, The University Of Edinburgh.
JVO JVO Portal Japanese Virtual Observatory (JVO) Prototype 2 Masahiro Tanaka, Yuji Shirasaki, Satoshi Honda, Yoshihiko Mizumoto, Masatoshi Ohishi (NAOJ),
May 10, 2006IVOA-GGF Astro-RG WS1 Welcome and Workshop Goal Masatoshi Ohishi / NAOJ & Sokendai Chairman, IVOA 大石雅寿 / 国立天文台 & 総合研究大学院大学
ILDG Middleware Status Chip Watson ILDG-6 Workshop May 12, 2005.
P Structured Query Language for Virtual Observatory Yuji Shirasaki National Astronomical Observatory of Japan, and Masahiro Tanaka (NAOJ), Satoshi.
Mar. 01, 2005DEWS20051 バーチャル天文台を実現する 分散データベース・計算資源 の国際連携機構 大石雅寿 ( 国立天文台 )
2005/05/25 情報処理学会第99回OS研究会 1 仮想実行環境を管理するための ライブラリ 大山 恵弘 米澤 明憲 (東京大学/JST)
Database Systems: Design, Implementation, and Management Eighth Edition Chapter 14 Database Connectivity and Web Technologies.
1 MSCS 237 Overview of web technologies (A specific type of distributed systems)
IODE Ocean Data Portal - ODP  The objective of the IODE Ocean Data Portal (ODP) is to facilitate and promote the exchange and dissemination of marine.
February 20, 2006JVO-AstroGrid Collaboration1 Current Status of JVO, and Goal of Collaboration between JVO and AstroGrid Masatoshi Ohishi / NAOJ & Sokendai.
Oct. 1, 2004IVOA Small Projects Meeting1 Development of JVO prototype system and its application to Astrophysics Portal System : M. Tanaka Data Service.
GO-ESSP Workshop, LLNL, Livermore, CA, Jun 19-21, 2006, Center for ATmosphere sciences and Earthquake Researches Construction of e-science Environment.
Japanese Virtual Observatory Project Abstract : The National Astronomical Observatory of Japan (NAOJ) started the Japanese Virtual Observatory (JVO) project.
Some Grid Science California Institute of Technology Roy Williams Paul Messina Grids and Virtual Observatory Grids and and LIGO.
Progress Report of VOQL WG May 15 (Thu) Masatoshi Ohishi (Japan)
Japanese Virtual Observatory Project Abstract : The National Astronomical Observatory of Japan (NAOJ) started the Japanese Virtual Observatory (JVO) project.
2003/11/27CVO Meeting in Beijing Current Status of Japanese Virtual Observatory Masatoshi Ohishi National Astronomical Observatory of Japan and Sokendai.
German Astrophysical Virtual Observatory Overview and Results So Far W. Voges, G. Lemson, H.-M. Adorf.
JSP Server Integrated with Oracle8i Project2, CMSC691X Summer02 Ching-li Peng Ying Zhang.
Japanese Virtual Observatory (JVO) National Astronomical Observatory of Japan (NAOJ) Contact Address: Demo 1: GRID-based database federation.
JVO portal service Yuji Shirasaki National Astronomical Observatory of Japan.
英語勉強会 10/13 住谷 English /21 三木 裕太. 原文 The purpose of this study is Development of system for Automated Generation of Deformed Maps. My study become.
Data Manipulation with Globus Toolkit Ivan Ivanovski TU München,
2007/02/23Ryukyus Repository 琉球大学学術リポジトリ 年度報告 Fiscal Year Report 琉球大学学術リポジトリ事務局 Secretariat of the University of the Ryukyus.
IVOA Small Projects Meeting Application to the science S. Honda, Y. Shirasaki, M. Tanaka and JVO team National Astronomical Observatory of Japan.
2004/03/08Japan-France Grid Computing Workshop in Paris Japanese Virtual Observatory Project Masatoshi Ohishi National Astronomical Observatory of Japan.
A Presentation Presentation On JSP On JSP & Online Shopping Cart Online Shopping Cart.
April 29, 2005ISGC Taipei1 Recent Progress of the Japanese Virtual Observatory Project Masatoshi Ohishi / NAOJ 大石雅寿 / 国立天文台
Web-based Software Development - An introduction
Web Concepts Lesson 2 ITBS2203 E-Commerce for IT.
EVLA Archive The EVLA Archive is the E2E Archive
PHP / MySQL Introduction
May 14 (Wed) Masatoshi Ohishi (Japan)
2018/11/23 An Application for the Data Grid : A Prototype of the Japanese Virtual Observatory System Masatoshi Ohishi National Astronomical Observatory.
Current Status of Japanese Virtual Observatory
2018/11/27 An Application for the Data Grid : A Prototype of the Japanese Virtual Observatory System Masatoshi Ohishi National Astronomical Observatory.
Progress Report of VOQL WG
Google Sky.
Presentation transcript:

2003/03/25天文学会春季年会 JVO の研究開発 (2) 全体進捗 大石雅寿 国立天文台 & 総研大

2003/03/25 天文学会春季年会 Collaborators NAOJ Y. Mizumoto N. Yasuda Y. Shirasaki M. Tanaka Ochanomizu U. Y. Masunaga Fujitsu Ltd. K. Monzen K. Kawarai Y. Ishihara H. Yanaka Y. Yamaguchi M. Ishida N. Saito

2003/03/25 天文学会春季年会 Supported by Research Grant from the MEXT (文部科学省 科研 費 特定領域研究 「情報学」 松岡・下條組) Research Grant from the Sokendai (総合研究大学院大 学 企画研究)

2003/03/25 天文学会春季年会 Data Productivity Nobeyama Radio : ~1TB/yr : ~20TB/yr ALMA ( planned ) : ~PB/yr Flood of excellent data (survey data) Digitized & Archived

2003/03/25 天文学会春季年会 HPC + High Speed NETWORK +GRID Technology → it is possible to connect and seamlessly use remote DBs and computing facilities for data analyses → Virtual Observatory

2003/03/25 天文学会春季年会 Digital Universe 望遠鏡による観測データ Data Cube Dec. R.A. λ/Freq. + Time Real Universe Numerical Universe

2003/03/25 天文学会春季年会 アイデア 観 測 検 索 データ 解 析 解 析 研究発表 実望遠鏡での 観測 仮想望遠鏡での 観測

2003/03/25 天文学会春季年会 When Data is Not Found → VO requests REAL OBSERVATIONS to REAL telescopes → Real Observations → Get data → the data is registered into the VOs VO is a growing facility !

2003/03/25 天文学会春季年会 JVO (will) consists of Seamless Access to Federated DBs Various Data Analysis tools Advanced Analysis such as Data Mining Federation with Real Telescopes → crucial to control data quality in VO

2003/03/25 天文学会春季年会 JVO prototype : Ver. 1 Establish seamless access to federated DBs by using the Grid technology Define JVO Query Language, and implement its parser Test environment is in a closed subnet

2003/03/25 天文学会春季年会 Data Bases used in the prototype Subaru SuprimeCAM 2μm All Sky Survey (2MASS)

2003/03/25 天文学会春季年会 JVO Portal JVO Portal Catalog Query Service Globus Toolkit Catalog DB Service Registry Service Registry ASTRONOMER JVO Browser JVO Browser JVO Viewer JVO Viewer Data Archive Service Data Management DB Data JVO Contoroller JVO Contoroller 利用者独自 サービス 利用者独自 サービス Data Analysis Services UDDI Server ( FreeSoft) Web Broser Commands callable from GT2 Globus Toolokit V2 Security Service Resource Management Data Management skycat Query request JVO Query Language Parse the JVO QL into each query sequence Resolve servers to request queries GridFTP each query

2003/03/25 天文学会春季年会 JVO Query Language 詳細は,安田他 の講演 (V27b) で

2003/03/25 天文学会春季年会 Java2SE 1.4 Apache Tomcat soapuddi JDBC UDDI Registory / Servlet Engine Java2SE 1.4 JVO Server UDDI4J JVO Controller Globus Toolkit (Server) JVO Service (count) SQL library Java2SE 1.4 Maintenance Tool UDDI4J UDDI Maintenance Tool Hypertext contents Solaris8 (Possible at Linux ) Redhat Linux JVO Service ORACLE DB Service Free Software Commercial Software In House Software Function Apache SOAP ① Servlet DownLoad Globus Toolkit (Client) Redhat Linux PostgreSQL (DBMS) DB Service The following free software is included by globus toolkit. OpenSSL (Secure Socket Library) OpenLDAP (LDAP Server) wu-ftpd (ftp server) JVO Prototype System Architecture ③ Find Service Netscape Communicator Java2 Plugin JVO Client (servlet) JVO Client ② Request Observation Monitoring UDDI Data SUBARU SupCam z-band get & parse GSDL pre condition check execute Service post condition check register update delete GSDL (copy) JVO Service (select) SQL library JVO Service (image) JVO Service (X match) Image Data GSDL GridFTP Image Data (copy) ⑥ spawn Service ⑤ execute Service Check status SUBARU DataBase JVO Controller Globus Toolkit AVO Globus Toolkit NVO Internet Image Data SUBARU SupCam i-band Globus Toolkit (Server) JVO Service SQL library SQL library JVO Service (count) JVO Service (select) Copy imate data by GridFTP Copy imate data by GridFTP JVO Service (X match) JVO Service (image) ③ get GSDL ④ Get GSDL by GridFTP GSDL ⑦ issue SQL ④ ’ Get GSDL by GridFTP ⑦ ’ issue SQL ⑤ ’ execute Service Image Data (copy) SUBARU DataBase Gb Ether ⑥ ’ spawn Service Globus Toolkit (Server) JVO Service SQL library JVO Service (select) JVO Service (X match) GSDL Redhat Linux 2Mass DataBase PostgreSQL DB Service 2Mass DB Image Data (copy) Image Data

2003/03/25 天文学会春季年会 JVO プロトタイプの GRID 技術については 石原他の講演 (V30a) を参照 データベース構築, user interface につい ては 白崎他の講演 (V28b) を参照 検索サービスの構築については 田中他の講演 (V29b) を参照

2003/03/25 天文学会春季年会 How it works ? Read JVO QL Create “Work Flow”, and execute each step When necessary, access to the registry to expand the step of the work flow Thus the steps increases dynamically

2003/03/25 天文学会春季年会 Java2SE 1.4 Apache Tomcat 4.x soapuddi JDBC UDDI Registory / Servlet Engine Java2SE 1.4 Maintenance Tool UDDI4J UDDI Maintenance Tool Netscape Communicator Java2 Plugin JVO Client (applet) JVO Client Hypertext contents Solaris8 (Possible at Linux ) Redhat Linux Globus Toolkit (Server) JVO Service SQL library JVO Service ORACLE RDB DB Service Free Software Commercial Software In House Software Function Apache SOAP Applet Down Load Redhat Linux Globus Toolkit (Server) JVO Service SQL library JVO Service PostgreSQL RDB DB Service PostgreSQL RDB DB Service … The following free software is included by globus toolkit. OpenSSL (Secure Socket Library) OpenLDAP (LDAP Server) wu-ftpd (ftp server) JVO Prototype Architecture Java2SE 1.4 JVO Contro l ler UDDI4J JVO Server Globus Toolkit (Server) JVO Service SQL library JVO Service Globus Toolkit (Client)

2003/03/25 天文学会春季年会

2003/03/25 天文学会春季年会

2003/03/25 天文学会春季年会 Query Files can be stored in a local PC (WS)

2003/03/25 天文学会春季年会 create materialized view my_table as select i.POS_EQ_RA_MAIN, i.POS_EQ_DEC_MAIN, i.PHOT_SDSS_I, z.POS_EQ_RA_MAIN, z.POS_EQ_DEC_MAIN, z.PHOT_SDSS_Z, img_i.BOX(POINT(ra1, dec1), 0.005, 0.005) as img_i, img_z.BOX(POINT(ra2, dec2), 0.005, 0.005) as img_z from Subaru.SPcam.i i, Subaru.SPcam.z z, Subaru.SPcam.i img_i, Subaru.SPcam.z img_z where XMATCH(i, z) < 10 arcsec NEAREST and BOX(POINT(201., 27.4), 0.10, 0.10) and i.PHOT_SDSS_I - z.PHOT_SDSS_Z > 0.0 and i.PHOT_SDSS_I < 20.0 and z.PHOT_SDSS_Z < 20.0

2003/03/25 天文学会春季年会 Monitor Window: Refreshed automatically in every 15 seconds

2003/03/25 天文学会春季年会 VOTable as output XML Standard data exchange format among VOs defined by the IVOA (see below)

2003/03/25 天文学会春季年会 Sample Outputs

2003/03/25 天文学会春季年会

2003/03/25 天文学会春季年会 FAQs on our Prototype Q) Contents of environment variables are not passed to the executing machines. A) Prepare a shell script to get environment variables and another script to execute the command. Then GridFTP these shell scripts, and execute the shells in the remote machine. Q) It is impossible to prepare all users’ account to all relevant machines. A) Map all accounts on a portal to a single representative one, such as globus.

2003/03/25 天文学会春季年会 FAQs Q) GT2 has too large overhead before starting actual jobs !! They are several seconds. Request) Overheads must be < 0.1 seconds excluding the network delays. A) Use NMI (NSF Middleware Initiative) where each key generation is quite fast through assembler.

2003/03/25 天文学会春季年会 Future Prototype version 2 (in progress) implement data analysis tools add more data (SXDF, SDSS, etc.) Interoperation with VOs in the world We have joined the International Virtual Observatory Alliance, and are contributing standardizing protocols for interoperability.

2003/03/25 天文学会春季年会 VOs in the World NVO (USA), AVO (EU),AstroGrid (UK) Germany, Canada, Russia, Australia India, China, JAPAN Protocols to interconnect VOs → International Virtual Observatory Alliance (IVOA)

2003/03/25 天文学会春季年会 サービス 他システム 処理 データ管理 資源管理 セキュリティ管理 研究者 VO 用 ブラウザ VO 用 ブラウザ Web サーバ Web サーバ JVO ポータル JVO ポータル 天体カタログ 天体カタログ DB ワーク フロー データ管理 資源管理 セキュリティ管理 サービス 利用者独自 サービス 利用者独自 サービス 天体カタログ サービス 天体カタログ サービス GRID 環境 A サービス レジストリ A サービス レジストリ A サービス レジストリ C サービス レジストリ C DB DA/DB Data サービス DB/DA サービス DB/DA サービス レジストリ B サービス レジストリ B 仮想観測実行 サービス 仮想観測実行 サービス M VC MVCMVC GRID 環境 B GRID 環境 C VO 用 Viewer VO 用 Viewer データ管理 資源管理 セキュリティ管理 データ管理 資源管理 セキュリティ管理 天文台殿 サービス 他システム pipeline 処理 データ管理 資源管理 セキュリティ管理 サービス 他システム 処理 データ管理 資源管理 セキュリティ管理 サービス 他システム 処理 データ管理 資源管理 セキュリティ管理 研究者 VO 用 ブラウザ VO 用 ブラウザ Web サーバ Web サーバ VO ポータル VO ポータル VO 用 Viewer VO 用 Viewer 仮想観測 指示

2003/03/25 天文学会春季年会 JVO Home Page