投稿者:

AWS, S3, Shell

はじめに

岡崎です。
今回は、タイトル通りディレクトリに変更があったものをS3にアップロードするシェルをつくってみました。
業務上作成したものの簡易版を以下に記載します。

ゴール

指定のディレクトリに何か変更があったもの(ファイル、ディレクトリの上書き・新規作成)に対して
その変更を検知して、S3にその変更内容をアップロードする。

※ただし、指定のディレクトリの構造とS3上のディレクトリ構造は同じにする

例) ...

投稿者:

AWS, re:Invent, S3, データレイク

AWS re:Invent 2016に参加して思ったことです。

データ分析基盤の最近のトレンドとしては、リアルタイム処理、サーバレス、DataLake(データレイク)、となっているようです。

コンポーネント

コンポーネントとしては、S3、Kinesis、Lambda、DynamoDB、Elasticsearchがメインに利用されていて、特にKinesisでリアルタイム処理を行っている事例が多かったです。
KinesisはFirehoseもS ...

投稿者:

AWS, Lambda, Python, S3

やりたかったこと

LambdaでS3に対して、ListObjectsしたい。

コードfrom __future__ import print_function import boto3 s3 = boto3.client('s3') def lambda_handler(event, context):    bucket = event['Records'][0]['s3']['bucket'] ...